Hversu mikið tjón Skynet hefur valdið: Opið bréf kallar á stöðvun á stórum gervigreindartilraunum eftir ChatGPT 4

Stöðva ChatGPT 4

Já, hversu mikinn skaða hefur Skynet valdið. Mér finnst ekki spillandi að tala um verk sem gaf út sinn fyrsta þátt fyrir tæpum 40 árum (1984), en fyrir fjórum áratugum var engin gervigreind umfram smáforrit sem lærðu aðeins og létu ímyndunaraflinu lausan tauminn. Svona var mynd Skynet hugsuð, forrit sem lærði af sjálfu sér og bætti og batnaði þar til það varð meðvitað um sjálft sig, "hrædd" við að komast að því að það yrði slökkt á því og enda mannkynið eins og það var þekkt með því að skjóta eldflaugum milli Bandaríkjanna og Rússlands. . Það fullkomnasta sem til er núna, að minnsta kosti það er vitað, er SpjallGPT 4, og endurbætur hennar eru komnar til að hræða eða, að minnsta kosti, pirra.

En snúum okkur að raunhæfara atriði. Áhyggjuefni undirritaðra bandalagsins opið bréf, þar á meðal Elon Musk, hafa aðrar áhyggjur, eða einn án fulls forms. Hann ótti þeirra er við hið óþekkta, einn af algengustu óttanum, er að OpenAI og aðrar stofnanir, áætlanir og verkefni séu að bæta gervigreind sína eins og það væri kapphlaup um að sjá hver kemst lengra og hvenær, og það getur gefið ólíkar niðurstöður.

ChatGPT 4 í sviðsljósinu

Með útgáfu < 4 af OpenAI spjallbotninum virtust hlutirnir „fyndnari“ eða „sætur“, notaðu hvaða orð sem þú kýst. Þeir spyrja hann um hluti og hann svarar; þú ert beðinn um að leiðrétta hluta af kóða og þú gerir það; þú spyrð hann um merkingu bréfs úr lagi eða kvikmynd og hann útskýrir það fyrir þér; en ChatGPT 4 hefur gengið lengra. Svörin þín hafa batnað mikið og þú getur jafnvel búið til efni sem gæti verið rangt.

Vegna þess að þetta er ein af áhyggjum sem nefnd eru: við skulum ímynda okkur að ég skrifi mjög ítarlega grein um hvers vegna maðurinn hefur aldrei náð til tunglsins. Þessi grein hefur margar heimsóknir og er deilt alls staðar, þó í sumum tilfellum sé það til að gagnrýna hana. Seinna biðjum við ChatGPT hvað gerðist á því augnabliki, að skrifa okkur grein um þann atburð, það skrifar okkur eitthvað byggt á því sem ég hef skrifað og þar sem það hefur ekki getu til að greina falsa fréttir, skrifaðu okkur eitthvað rangt. Þetta, eða með betra dæmi, gæti flætt yfir netin.

6 mánaða hlé til námsstjórnar

Það sem þarf er þaðAllar gervigreindarstofur gera hlé á þjálfun gervigreindarkerfa í að minnsta kosti 6 mánuði öflugri en ChatGPT-4. Þessi hlé ætti að vera opinber og sannreynanleg og innihalda alla lykilmenn. Ef ekki er hægt að koma hléinu í framkvæmd fljótt ættu stjórnvöld að stíga upp og koma á greiðslustöðvun.".

Allar rannsóknarstofur og óháðir sérfræðingar ættu að nota þennan tíma til að innleiða sett af öryggisreglum, sem þýtt mætti ​​taka sem aðra leið til að segja að þú þurfir að skrifa lög sem líkjast hinum frægu lögmálum vélfærafræði.

Er það ekki það sama fyrir ríkisstjórnir?

Það sem slær mig persónulega er punktur þar sem hann segir að samhliða þurfi gervigreindarframleiðendur að vinna með stefnumótendum til að flýta fyrir þróun gervigreindar fyrir ríkiskerfi. Það er að segja, aðstoða stjórnvöld með eigin gervigreind að geta í fáum orðum stjórnað gervigreindum. Gerðu það sem ég segi, ekki það sem ég geri.

Að bréfið hafi verið undirritað af Elon Musk kemur mér ekki á óvart. Komið hefur í ljós að hann var einn með að stofna OpenAI og svo virðist sem árangur hans sé sár eftir að hafa yfirgefið fyrirtækið. Að öðru leyti, já, það er rétt að gervigreind, hversu gáfuð sem hún kann að vera, í ákvarðanatöku er sögð ekkert betri en 7 ára gamalt barn, og að það gæti verið erfitt fyrir þau að greina á milli satt og satt. rangar upplýsingar. , þannig að tilgangurinn með falsfréttum er möguleiki og grípa verður til aðgerða. Fyrir allt annað held ég að svo framarlega sem þeim eru ekki gefnir eldflaugaskotkóðar líti hlutirnir ekki svo illa út. Ég vona að ég hafi ekki rangt fyrir mér.


Innihald greinarinnar fylgir meginreglum okkar um siðareglur ritstjórnar. Til að tilkynna um villu smelltu hér.

Vertu fyrstur til að tjá

Skildu eftir athugasemd þína

Netfangið þitt verður ekki birt. Nauðsynlegir reitir eru merktir með *

*

*

  1. Ábyrgð á gögnum: AB Internet Networks 2008 SL
  2. Tilgangur gagnanna: Control SPAM, umsögn stjórnun.
  3. Lögmæti: Samþykki þitt
  4. Samskipti gagna: Gögnunum verður ekki miðlað til þriðja aðila nema með lagalegri skyldu.
  5. Gagnageymsla: Gagnagrunnur sem Occentus Networks (ESB) hýsir
  6. Réttindi: Hvenær sem er getur þú takmarkað, endurheimt og eytt upplýsingum þínum.