Rủi ro thực tế và tưởng tượng của Trí tuệ nhân tạo (Ý kiến)

Các mô hình Trí tuệ nhân tạo không thể phát hiện ra sự bất thường

Cách đây không lâu, đối tác Pablinux của tôi Anh ấy đã nói với chúng tôi trên lá thư mà Elon Musk không thể chịu đựng được và những nhân vật khác đã viết yêu cầu tạm dừng nghiên cứu về Trí tuệ nhân tạo cho đến khi các biện pháp có thể được thực hiện để ngăn chặn các tác động bất lợi có thể xảy ra. Điều đó cho tôi cái cớ để nói về những rủi ro thực sự và tưởng tượng của Trí tuệ nhân tạo.

Có nguy cơ biến bản thân thành kẻ ngốc với những dự đoán thất bại kiểu Bill Gates, tôi bắt đầu bằng cách nói rằng theo ý kiến ​​​​của tôi rủi ro lớn nhất hiện nay là vỡ bong bóng Điều đó sẽ khiến các công ty dot-com bị sốc nhẹ.

Những rủi ro thực tế và tưởng tượng của Trí tuệ nhân tạo

Tôi đồng ý với Pablinux rằng bức thư mang tính chất tục tĩu thời trung cổ hơn là lập luận khoa học. Cái đó trong khi tiếp tục chia sẻ ý tưởng rằng pháp luật nên được thiết lập để điều chỉnh việc sử dụng nội dung của nó. Tuy nhiên, chúng ta không thể phủ nhận rằng mọi công nghệ đều khiến con người hoang mang và sợ hãi cho đến khi nó được nhiều người biết đến.

Hình ảnh một đoàn tàu xuất hiện ở phần đầu của tác phẩm điện ảnh khiến mọi người bỏ chạy khỏi phòng và, mặc dù nó mang nhiều nét huyền thoại đô thị, phiên bản phát thanh của Cuộc chiến của các thế giới của Orson Welles đã gây ra khá nhiều hoảng sợ cho những người tin rằng điều đó là có thật.

Trên thực tế, loại quy định phần mềm này không có gì mới. Cơ quan quản lý tài chính ở nhiều quốc gia cấm các chương trình như Photoshop chỉnh sửa hình ảnh của tiền giấy hoặc séc.

Năm 1994 Tom Clancy xuất bản Nợ danh dự. Được coi là chuyên gia về các vấn đề phòng ngự, Clancy itưởng tượng một cuộc tấn công vào hệ thống tài chính của Hoa Kỳ bằng cách thao túng hệ thống chuyên gia của các công ty chứng khoán để tin rằng một cuộc khủng hoảng đang diễn ra tung ra một làn sóng bán cuối cùng tạo ra cuộc khủng hoảng.

Trước khi coi đó là hư cấu, hãy nhớ rằng trong cùng cuốn tiểu thuyết đó, 7 năm trước khi xảy ra vụ Tháp đôi, Clancy đã dự đoán rằng Hoa Kỳ có thể hứng chịu các cuộc tấn công bằng máy bay thương mại.

Thực ra ý tưởng không mới. phim năm 1983 Trò chơi chiến tranh Nó kể lại cách một thiếu niên nhầm lẫn máy tính phụ trách vụ phóng tên lửa nghĩ rằng người Nga đang tấn công.

Hãy tưởng tượng rằng chúng ta nghe thấy một tiếng phi nước đại đang đến gần. Kết luận đầu tiên của chúng tôi là nó là một con ngựa và 9 trong số 10 lần chúng tôi sẽ đúng. Tuy nhiên, luôn có khả năng đó là một con ngựa vằn đã trốn thoát khỏi sở thú. Các bác sĩ, phi hành gia và phi công máy bay được đào tạo nghiêm ngặt về tư duy của ngựa vằn, biết phải làm gì nếu có điều bất thường xảy ra. Các mô hình trí tuệ nhân tạo được huấn luyện có tính đến ngựa.

Một mô hình giống như mô hình mà ChatGPT sử dụng dựa trên thông tin hiện có trong cơ sở kiến ​​thức của nó. Thông tin đó được lặp lại càng nhiều lần thì độ tin cậy mà nó gán cho càng lớn.

Vì việc lưu tất cả thông tin có sẵn sẽ cần nhiều dung lượng lưu trữ, nó chỉ lưu những gì có liên quan và sau đó xây dựng lại nó theo yêu cầu bằng cách sử dụng cấu trúc có vẻ phù hợp nhất về mặt thống kê. Do đó, nhiều lần tôi trích dẫn các tài liệu tham khảo không tồn tại chỉ vì theo thống kê, có khả năng là có một tài liệu có tiêu đề chứa nội dung đó.

Về ngựa vằn và chó không sủa

Có điểm nào khác mà bạn muốn thu hút sự chú ý của tôi không?
-Sự tò mò của con chó vào ban đêm.
-Con chó không làm gì vào ban đêm.
Đó là sự cố kỳ lạ.

Sir Arthur Conan Doyle

Một rủi ro khác mà các hệ thống Trí tuệ nhân tạo gặp phải là những gì chúng không làm. Và nó cũng là một điểm quan trọng cần ghi nhớ.

Vào những năm XNUMX, một bác sĩ người Úc phỏng đoán rằng nguyên nhân phổ biến nhất gây loét là vi khuẩn. Vì anh ta không có một bản lý lịch tuyệt vời, họ đã cười vào mặt anh ta cho đến khi anh ta được chứng minh là đúng. Giống như nhiều khám phá khoa học khác (sự quay của các hành tinh, thực tế là bạn càng nghỉ ngơi nhiều, bạn càng làm việc hiệu quả hơn), chúng trái ngược với sự khôn ngoan của thời điểm hiện tại.

Tuy nhiên, các mô hình Trí thông minh dựa trên sự khôn ngoan của thời điểm này. Trong những kiến ​​​​thức trong đó có sự đồng thuận. Giống như công nghệ đóng băng, ô tô và giao hàng đã làm tăng số lượng người béo phì, sự sẵn có của các công cụ Công nghệ nhân tạo có thể khiến chúng ta trở thành những trí thức lười biếng và kìm hãm sự đổi mới.

Như bạn có thể thấy, có đủ thứ để lo lắng trên hết là sợ bị máy móc làm nô lệ. Và chúng tôi vẫn chưa nói về quyền truy cập vào mã nguồn và quyền riêng tư của người dùng.


Hãy là người đầu tiên nhận xét

Để lại bình luận của bạn

địa chỉ email của bạn sẽ không được công bố. Các trường bắt buộc được đánh dấu bằng *

*

*

  1. Chịu trách nhiệm về dữ liệu: AB Internet Networks 2008 SL
  2. Mục đích của dữ liệu: Kiểm soát SPAM, quản lý bình luận.
  3. Hợp pháp: Sự đồng ý của bạn
  4. Truyền thông dữ liệu: Dữ liệu sẽ không được thông báo cho các bên thứ ba trừ khi có nghĩa vụ pháp lý.
  5. Lưu trữ dữ liệu: Cơ sở dữ liệu do Occentus Networks (EU) lưu trữ
  6. Quyền: Bất cứ lúc nào bạn có thể giới hạn, khôi phục và xóa thông tin của mình.