Unsa ka dako ang kadaot nga nahimo sa Skynet: Usa ka Bukas nga Sulat Nagtawag Alang sa Paghunong sa Daghang-Scale nga mga Eksperimento sa AI Pinaagi sa ChatGPT 4

Oo, pila ka kadaot ang nahimo sa Skynet. Wala ko maghunahuna nga ang paghisgot bahin sa usa ka trabaho nga nagpatik sa una nga yugto niini hapit 40 ka tuig ang milabay (1984) makadaot, apan upat ka dekada na ang milabay wala’y artificial intelligence nga labaw sa gagmay nga mga programa nga nakakat-on og gamay ug tugoti ang imong imahinasyon nga modagan. Mao kini ang paagi nga ang numero sa Skynet gipanamkon, usa ka programa nga nakakat-on sa iyang kaugalingon ug milambo ug milambo hangtud nga kini nakaamgo sa iyang kaugalingon, "nahadlok" sa pagkahibalo nga kini pagapalongon ug pagtapos sa katawhan ingon nga kini nailhan pinaagi sa paglansad sa mga misil. tali sa US ug Russia. . Ang labing abante nga naglungtad karon, labing menos nahibal-an na, mao ChatGPT 4, ug ang mga pag-uswag niini nahadlok o, labing menos, makapalagot.

Apan moadto kita sa mas realistiko nga punto. Ang kabalaka sa mga mipirma sa ablihan sulat, lakip ang Elon Musk, adunay uban pang mga kabalaka, o usa nga wala’y kompleto nga porma. Siya ang ilang kahadlok mao ang wala mahibaloi, usa sa labing kasagaran nga kahadlok, mao nga ang OpenAI ug uban pang mga pundasyon, mga programa ug mga proyekto nagpauswag sa ilang mga artipisyal nga paniktik nga ingon og usa ka lumba aron makita kung kinsa ang mopadayon ug kanus-a, ug kini makahatag sa lainlain nga mga resulta.

ChatGPT 4 sa spotlight

Uban sa bersyon <4 sa OpenAI chatbot, ang mga butang ingon og mas "kataw-anan" o "cute", gamita ang bisan unsang pulong nga gusto nimo. Sila nangutana kaniya ug mga butang ug siya motubag; gihangyo ka sa pagtul-id sa usa ka seksyon sa code ug imo kining buhaton; pangutan-on nimo siya sa kahulogan sa usa ka sulat gikan sa kanta o salida ug iya kining gipasabot kanimo; apan ang ChatGPT 4 milabaw pa. Ang imong mga tubag miuswag pag-ayo, ug mahimo ka pa nga makamugna sulod nga mahimong bakak.

Tungod kay usa kini sa mga gikabalak-an nga gihisgutan: atong hunahunaon nga ako nagsulat og usa ka detalyado kaayo nga artikulo kung nganong ang tawo wala gayud makaabot sa bulan. Kini nga artikulo adunay daghang mga pagbisita ug gipaambit bisan asa, bisan pa sa pipila ka mga kaso kini mao ang pagsaway niini. Sa ulahi, among gipangutana ang ChatGPT kung unsa ang nahitabo nianang higayuna, aron isulat kanamo ang usa ka artikulo bahin sa kana nga panghitabo, nagsulat kami usa ka butang base sa akong gisulat ug, tungod kay wala kini kaarang nga makit-an peke nga balita, isulat kanamo ang usa ka butang nga bakak. Kini, o uban ang usa ka mas maayo nga pananglitan, mahimong magbaha sa mga network.

6 ka bulan nga pahulay aron makontrol ang pagtuon

Ang gikinahanglan mao kanaAng tanan nga AI Labs paghunong sa labing menos 6 ka bulan ang pagbansay sa mga sistema sa AI nga mas gamhanan kay sa ChatGPT-4. Kini nga paghunong kinahanglan nga publiko ug mapamatud-an, ug ilakip ang tanan nga hinungdanon nga mga magdudula. Kung ang paghunong dili mapatuman dayon, ang mga gobyerno kinahanglan nga molihok ug maghimo usa ka moratorium.".

Ang tanan nga mga laboratoryo ug ang mga independenteng eksperto kinahanglang mogamit niini nga panahon sa pagpatuman sa usa ka hugpong sa mga protocol sa seguridad, nga gihubad mahimong makuha isip laing paagi sa pag-ingon nga kinahanglang magsulat ka og mga balaod nga susama sa bantog nga mga balaod sa robotics.

Dili ba parehas kini sa mga gobyerno?

Ang personal nga nakaigo kanako mao ang usa ka punto diin siya nag-ingon nga, sa parehas nga paagi, ang mga nag-develop sa AI kinahanglan nga magtrabaho kauban ang mga naghimo sa palisiya aron mapadali ang pag-uswag sa artipisyal nga paniktik alang sa mga sistema sa gobyerno. Sa ato pa, tabangi ang mga gobyerno sa ilang kaugalingon nga artificial intelligence nga makahimo, sa pipila ka mga pulong, sa pagpugong sa mga artipisyal nga paniktik. Buhata ang akong gisulti, dili ang akong gibuhat.

Nga ang sulat gipirmahan ni Elon Musk wala ako nakurat. Gipadayag nga siya ang nagtukod sa OpenAI, ug ingon og, pagkahuman sa pagbiya sa kompanya, nasakitan ang iyang kalampusan. Alang sa uban, oo, tinuod nga ang artificial intelligence, bisan unsa pa sila ka intelihente, sa paghimog desisyon giingon nga dili labi ka maayo sa usa ka 7-anyos nga bata, ug nga mahimong lisud alang kanila ang paglainlain sa tinuod gikan sa sayop nga impormasyon. , mao nga ang punto sa fake news usa ka posibilidad ug kinahanglang aksyonan. Alang sa tanan, sa akong hunahuna nga basta wala sila gihatagan mga code sa paglansad sa missile, ang mga butang dili kaayo daotan. Unta dili ko masayop.