Họ nói rằng đối với những điều mới lạ là kinh điển. Một câu chuyện ngụ ngôn được viết trong bốn thế kỷ của thời đại chúng ta là lý tưởng để hiểu đâu là giới hạn của các ứng dụng mới của Trí tuệ nhân tạo. Tôi đang đề cập đến "Hang ChatGPT", nó không hơn không kém một bản chuyển thể từ câu chuyện ngụ ngôn nổi tiếng về hang động của Plato
Tôi không phản đối việc sử dụng các công cụ trí tuệ nhân tạo. Trên thực tế, tôi thấy họ làm cho công việc dễ dàng hơn nhiều. Nhưng miễn là được sử dụng bởi những người có đủ kiến thức để đánh giá công việc của bạn.
Ví dụ; người ta có thể yêu cầu ChatGPT viết một plugin WordPress, nhưng nếu một người thiếu kiến thức về PHP thì plugin đó có thể gây ra các vấn đề nghiêm trọng về bảo mật.
Câu chuyện ngụ ngôn về cái hang
Plato là một triết gia Hy Lạp sống giữa thế kỷ thứ XNUMX và thứ XNUMX trước Công nguyên. Ông bày tỏ suy nghĩ của mình dưới dạng thần thoại và ngụ ngôn. Nổi tiếng nhất trong số đó là hang động.
Đã đăng trong Cộng hòa, câu chuyện ngụ ngôn tưởng tượng một nhóm người bị xích trong một hang động, đằng sau họ có một ngọn lửa tạo bóng lên bức tường trước mặt họ. Những cái bóng là thứ duy nhất họ nhìn thấy và tưởng tượng rằng chúng là thứ duy nhất tồn tại, bỏ qua những gì nằm bên ngoài.
Khi một trong những tù nhân được trả tự do, anh ta có thể nhìn thế giới thực sự là như thế nào và nhận ra rằng trải nghiệm của anh ta trong hang động hạn chế như thế nào.
Theo các học giả Plato, câu chuyện ngụ ngôn này nhấn mạnh rằng tất cả chúng ta đều sống cuộc sống của mình dựa trên thông tin và kinh nghiệm của chính mình. Thông tin và kinh nghiệm tương đương với bóng tối của hang động. Cũng giống như các tù nhân, có một thực tế thực sự và nó vượt quá tầm hiểu biết của chúng ta.
Hang ChatGPT
ChatGPT và các đối thủ của nó có cả người ngưỡng mộ và gièm pha. Nhưng, không ai đưa ra lời giải thích kỹ thuật về những thất bại của nó cho đến khi một bài báo xuất bản ở New Yorker của nhà văn khoa học viễn tưởng Ted Chang
Để giải thích những sai sót trong các mô hình ngôn ngữ, Chang đưa ra một phép loại suy với những gì xảy ra với các tệp hình ảnh và âm thanh.
Việc ghi và sao chép một tệp kỹ thuật số yêu cầu hai bước: đầu tiên là mã hóa, tại thời điểm đó, tệp được chuyển đổi sang định dạng nhỏ gọn hơn, tiếp theo là giải mã, đây là quy trình ngược lại. Quá trình chuyển đổi được gọi là lossless (tệp được khôi phục giống như tệp gốc) hoặc lossy (Một số thông tin bị mất vĩnh viễn). Nén mất dữ liệu được áp dụng cho các tệp hình ảnh, video hoặc âm thanh và hầu hết thời gian không đáng chú ý. Khi đó, nó được gọi là tạo phẩm nén. Các tạo phẩm nén hiển thị dưới dạng mờ trong hình ảnh hoặc kêu lách cách trong âm thanh.
Chang sử dụng sự tương tự của một JPG mờ từ trang web để tham khảo các mô hình ngôn ngữ. Và, điều này là khá chính xác. Cả hai đều nén thông tin chỉ giữ lại “Điều quan trọng”. lCác mô hình ngôn ngữ tạo ra, từ một lượng lớn dữ liệu văn bản, một biểu diễn nhỏ gọn về các mẫu và mối quan hệ giữa các từ và cụm từ.
Từ đó, một văn bản mới được tạo ra, cố gắng hết sức có thể để làm cho nó giống với văn bản gốc về nội dung và ý nghĩa. Vấn đề là khi không có đủ thông tin trên web để tạo một văn bản mới. Điều này có nghĩa là ChatGPT có thể viết một bài luận cấp đại học nhưng không thể thực hiện các phép toán 5 chữ số đơn giản.
Chang kết luận rằng:
Ngay cả khi có thể hạn chế các mô hình ngôn ngữ lớn tham gia vào việc soạn thảo, chúng ta có nên sử dụng chúng để tạo nội dung web không? Điều này chỉ có ý nghĩa nếu mục tiêu của chúng ta là đóng gói lại thông tin đã có sẵn trên Web. Một số công ty tồn tại để làm điều đó; chúng tôi thường gọi chúng là các nhà máy sản xuất nội dung. Có lẽ sự mờ nhạt của các mô hình ngôn ngữ là hữu ích đối với họ, như một cách để tránh vi phạm bản quyền. Tuy nhiên, nói chung, tôi sẽ nói rằng bất cứ điều gì tốt cho các nhà máy sản xuất nội dung đều không tốt cho những người tìm kiếm thông tin. Sự gia tăng của kiểu đóng gói lại này là điều khiến chúng tôi khó tìm thấy những gì chúng tôi đang tìm kiếm trực tuyến ngay bây giờ.; Càng nhiều văn bản do các mô hình ngôn ngữ lớn tạo ra được xuất bản trên Web, thì Web càng trở thành một phiên bản mờ nhạt hơn của chính nó.
Và, giống như những tù nhân trong hang động, trải nghiệm của chúng ta sẽ nhỏ hơn nhiều so với những gì thực tế mang lại cho chúng ta.