Gaano Karaming Pinsala ang Nagawa ng Skynet: Isang Bukas na Liham ang Tumatawag Para sa Paghinto ng Malalaking Mga Eksperimento sa AI Ng ChatGPT 4

Itigil ang ChatGPT 4

Oo, gaano kalaki ang pinsalang nagawa ng Skynet. Sa palagay ko ay hindi nakakasira ang pag-uusap tungkol sa isang gawaing naglathala ng unang yugto nito halos 40 taon na ang nakalilipas (1984), ngunit apat na dekada na ang nakararaan ay walang artificial intelligence na lampas sa maliliit na programa na natuto ng kaunti at hinayaan ang iyong imahinasyon na tumakbo nang ligaw. Ito ay kung paano naisip ang figure ng Skynet, isang programa na natuto sa kanyang sarili at bumuti at bumuti hanggang sa ito ay namulat sa sarili, "natakot" na malaman na ito ay papatayin at wakasan ang sangkatauhan na kilala sa pamamagitan ng paglulunsad ng mga missile sa pagitan ng US at Russia. . Ang pinaka-advanced na umiiral ngayon, hindi bababa sa na kilala, ay ChatGPT4, at ang mga pagpapabuti nito ay natakot o, hindi bababa sa, inisin.

Ngunit bumaba tayo sa isang mas makatotohanang punto. Ang pag-aalala ng mga lumagda sa bukas na sulat, kabilang si Elon Musk, ay may iba pang mga alalahanin, o isa na walang buong form. Siya ang kanilang takot ay sa hindi alam, isa sa mga pinakakaraniwang kinatatakutan, ay ang OpenAI at iba pang mga pundasyon, programa at proyekto ay pinapabuti ang kanilang mga artipisyal na katalinuhan na para bang ito ay isang karera upang makita kung sino ang higit pa at kung kailan, at ito ay maaaring magbigay ng magkakaibang mga resulta.

ChatGPT 4 sa spotlight

Sa bersyon < 4 ng OpenAI chatbot, ang mga bagay ay tila mas "nakakatawa" o "cute", gamitin ang alinmang salita na gusto mo. Sila ay nagtatanong sa kanya ng mga bagay at siya ay sumasagot; hihilingin sa iyo na iwasto ang isang seksyon ng code at gagawin mo ito; hihilingin mo sa kanya ang kahulugan ng isang liham mula sa isang kanta o isang pelikula at ipinaliwanag niya ito sa iyo; ngunit ang ChatGPT 4 ay lumayo pa. Ang iyong mga sagot ay bumuti nang husto, at maaari ka ring bumuo content na maaaring hindi totoo.

Dahil ito ang isa sa mga alalahanin na nabanggit: isipin natin na nagsusulat ako ng isang napakadetalyadong artikulo kung bakit hindi pa umabot sa buwan ang tao. Ang artikulong ito ay maraming pagbisita at ibinabahagi sa lahat ng dako, bagama't sa ilang mga kaso ito ay upang punahin ito. Mamaya, tatanungin namin ang ChatGPT kung ano ang nangyari sa sandaling iyon, na sumulat sa amin ng isang artikulo tungkol sa kaganapang iyon, nagsusulat ito sa amin ng isang bagay batay sa aking isinulat at, dahil wala itong kakayahang tuklasin pekeng balita, sumulat sa amin ng mali. Ito, o may mas magandang halimbawa, ay maaaring bahain ang mga network.

6 na buwang pahinga para kontrolin ang pag-aaral

Ang kinakailangan ay iyonLahat ng AI Labs i-pause nang hindi bababa sa 6 na buwan ang pagsasanay ng mga AI system na mas malakas kaysa sa ChatGPT-4. Ang pag-pause na ito ay dapat na pampubliko at nabe-verify, at kasama ang lahat ng pangunahing manlalaro. Kung ang paghinto ay hindi maisasabatas nang mabilis, ang mga pamahalaan ay dapat na kumilos at magsagawa ng isang moratorium.".

Lahat ng laboratoryo at dapat gamitin ng mga independiyenteng eksperto ang oras na ito upang magpatupad ng isang hanay ng mga protocol ng seguridad, na isinalin ay maaaring kunin bilang isa pang paraan ng pagsasabi na kailangan mong magsulat ng mga batas na katulad ng mga sikat na batas ng robotics.

Hindi ba't ganoon din sa mga gobyerno?

Ang personal na tumatak sa akin ay isang punto kung saan sinabi niya na, sa parallel, ang mga developer ng AI ay kailangang makipagtulungan sa mga gumagawa ng patakaran upang mapabilis ang pagbuo ng artificial intelligence para sa mga sistema ng gobyerno. Na ibig sabihin, tulungan ang mga pamahalaan sa kanilang sariling artificial intelligence upang magawa, sa ilang salita, na kontrolin ang mga artipisyal na katalinuhan. Gawin ang sinasabi ko, hindi ang ginagawa ko.

Na ang liham ay nilagdaan ni Elon Musk ay hindi nakakagulat sa akin. Naihayag na siya ang nagtatag ng OpenAI, at tila, pagkatapos umalis sa kumpanya, ang kanyang tagumpay ay masakit. Para sa iba, oo, totoo na ang artificial intelligence, gaano man sila katalino, sa paggawa ng desisyon ay sinasabing hindi mas mahusay kaysa sa isang 7-taong-gulang na bata, at maaaring mahirap para sa kanila na makilala ang totoo mula sa maling impormasyon. , kaya ang punto ng fake news ay isang posibilidad at dapat gawin ang aksyon. Para sa lahat ng iba pa, sa tingin ko na hangga't hindi sila binibigyan ng mga missile launch code, ang mga bagay ay hindi mukhang masama. Sana hindi ako nagkamali.


Maging una sa komento

Iwanan ang iyong puna

Ang iyong email address ay hindi nai-publish. Mga kinakailangang patlang ay minarkahan ng *

*

*

  1. Responsable para sa data: AB Internet Networks 2008 SL
  2. Layunin ng data: Kontrolin ang SPAM, pamamahala ng komento.
  3. Legitimation: Ang iyong pahintulot
  4. Komunikasyon ng data: Ang data ay hindi maiparating sa mga third party maliban sa ligal na obligasyon.
  5. Imbakan ng data: Ang database na naka-host ng Occentus Networks (EU)
  6. Mga Karapatan: Sa anumang oras maaari mong limitahan, mabawi at tanggalin ang iyong impormasyon.