Vâng, Skynet đã gây ra bao nhiêu thiệt hại. Tôi không nghĩ nói về một tác phẩm đã xuất bản tập đầu tiên cách đây gần 40 năm (1984) là hư hỏng, nhưng bốn thập kỷ trước không có trí tuệ nhân tạo nào ngoài những chương trình nhỏ học được một chút và để trí tưởng tượng của bạn được phát huy. Đây là cách hình thành Skynet, một chương trình tự học và cải tiến và cải tiến cho đến khi nó nhận thức được chính nó, "sợ hãi" khi biết rằng nó sẽ bị tắt và kết thúc loài người như đã biết bằng cách phóng tên lửa giữa Mỹ và Nga. . Tiên tiến nhất tồn tại bây giờ, ít nhất là được biết đến, là Trò chuyệnGPT 4, và những cải tiến của nó đã khiến người dùng sợ hãi hoặc ít nhất là khó chịu.
Nhưng chúng ta hãy đi xuống một điểm thực tế hơn. Mối quan tâm của các bên ký kết thư ngỏ, bao gồm cả Elon Musk, có mối quan tâm khác hoặc mối quan tâm không có biểu mẫu đầy đủ. Anh ta nỗi sợ hãi của họ là những điều chưa biết, một trong những nỗi sợ phổ biến nhất, là OpenAI và các quỹ, chương trình và dự án khác đang cải thiện trí tuệ nhân tạo của họ như thể đó là một cuộc chạy đua để xem ai tiến xa hơn và khi nào, và điều này có thể mang lại những kết quả khác nhau.
ChatGPT 4 nổi bật
Với phiên bản <4 của chatbot OpenAI, mọi thứ có vẻ “hài hước” hoặc “dễ thương” hơn, hãy sử dụng bất kỳ từ nào bạn thích. Họ hỏi anh ta mọi thứ và anh ta trả lời; bạn được yêu cầu sửa một đoạn mã và bạn làm như vậy; bạn hỏi anh ấy ý nghĩa của một chữ cái trong một bài hát hoặc một bộ phim và anh ấy giải thích cho bạn; nhưng ChatGPT 4 đã tiến xa hơn. Câu trả lời của bạn đã được cải thiện rất nhiều và thậm chí bạn có thể tạo nội dung có thể sai.
Bởi vì đây là một trong những mối quan tâm được đề cập: hãy tưởng tượng rằng tôi viết một bài báo rất chi tiết về lý do tại sao con người chưa bao giờ lên tới mặt trăng. Bài viết này có nhiều lượt truy cập và được chia sẻ khắp nơi, mặc dù trong một số trường hợp là để chỉ trích nó. Sau đó, chúng tôi hỏi ChatGPT điều gì đã xảy ra vào thời điểm đó, để viết cho chúng tôi một bài báo về sự kiện đó, nó viết cho chúng tôi điều gì đó dựa trên những gì tôi đã viết và vì nó không có khả năng phát hiện tin tức giả mạo, viết cho chúng tôi một cái gì đó sai sự thật. Điều này, hoặc với một ví dụ tốt hơn, có thể làm ngập mạng.
Nghỉ 6 tháng để học kiểm soát
Những gì được yêu cầu làTất cả phòng thí nghiệm AI tạm dừng ít nhất 6 tháng đào tạo hệ thống AI mạnh hơn ChatGPT-4. Việc tạm dừng này phải được công khai và có thể kiểm chứng, đồng thời bao gồm tất cả những người chơi chính. Nếu việc tạm dừng không thể được ban hành nhanh chóng, các chính phủ nên đẩy mạnh và đưa ra lệnh cấm.".
Tất cả các phòng thí nghiệm và các chuyên gia độc lập nên sử dụng thời gian này để thực hiện một bộ giao thức bảo mật, được dịch ra có thể được coi là một cách khác để nói rằng bạn phải viết các luật tương tự như các luật nổi tiếng về người máy.
Chẳng phải chính phủ cũng vậy sao?
Điều khiến cá nhân tôi nổi bật là một điểm mà anh ấy nói rằng, song song đó, các nhà phát triển AI cần làm việc với các nhà hoạch định chính sách để đẩy nhanh quá trình phát triển trí tuệ nhân tạo cho các hệ thống của chính phủ. Điều đó có nghĩa là, giúp các chính phủ bằng trí tuệ nhân tạo của riêng họ nói một cách ngắn gọn là có thể điều khiển trí tuệ nhân tạo. Làm những gì tôi nói, không phải những gì tôi làm.
Việc bức thư được ký bởi Elon Musk không làm tôi ngạc nhiên. Có thông tin tiết lộ rằng anh ấy đã đồng sáng lập OpenAI và có vẻ như sau khi rời công ty, thành công của anh ấy đang bị ảnh hưởng. Đối với phần còn lại, vâng, đúng là trí tuệ nhân tạo, cho dù chúng thông minh đến đâu, trong việc ra quyết định, người ta nói rằng chúng không tốt hơn một đứa trẻ 7 tuổi và chúng có thể gặp khó khăn trong việc ra quyết định. phân biệt đúng với thông tin sai lệch , vì vậy quan điểm của tin tức giả mạo là một khả năng và phải có hành động. Đối với mọi thứ khác, tôi nghĩ rằng miễn là họ không được cung cấp mã phóng tên lửa, thì mọi thứ có vẻ không tệ lắm. Tôi hy vọng tôi không sai.