Ja, hur mycket skada har Skynet gjort. Jag tycker inte att det är förstört att prata om ett verk som publicerade sitt första avsnitt för nästan 40 år sedan (1984), men för fyra decennier sedan fanns det ingen artificiell intelligens utöver små program som lärde sig lite och lät fantasin flöda. Detta är hur Skynets figur uppfattades, ett program som lärde sig av sig självt och förbättrades och förbättrades tills det blev medvetet om sig självt, "rädd" för att lära sig att det skulle stängas av och göra slut på mänskligheten som den kallades genom att skjuta upp missiler mellan USA och Ryssland.. Det mest avancerade som finns nu, åtminstone det är känt, är ChatGPT4, och dess förbättringar har kommit att skrämma eller åtminstone irritera.
Men låt oss komma ner till en mer realistisk punkt. Oron för undertecknarna av öppet brev, inklusive Elon Musk, har andra bekymmer, eller en utan fullständig form. han deras rädsla är för det okända, en av de vanligaste farhågorna, är att OpenAI och andra stiftelser, program och projekt förbättrar sin artificiella intelligens som om det vore en kapplöpning för att se vem som kommer längre och när, och detta kan ge olika resultat.
ChatGPT 4 i rampljuset
Med version < 4 av OpenAI chatbot verkade saker mer "roliga" eller "gulliga", använd vilket ord du föredrar. De frågar honom saker och han svarar; du ombeds att korrigera ett avsnitt av koden och du gör det; du frågar honom om innebörden av ett brev från en låt eller en film och han förklarar det för dig; men ChatGPT 4 har gått längre. Dina svar har förbättrats mycket, och du kan till och med generera innehåll som kan vara falskt.
För det här är en av farhågorna som nämns: låt oss föreställa oss att jag skriver en mycket detaljerad artikel om varför människan aldrig har nått månen. Den här artikeln har många besök och delas överallt, även om det i vissa fall är för att kritisera den. Senare ber vi ChatGPT vad som hände i det ögonblicket, att skriva en artikel till oss om den händelsen, den skriver till oss något baserat på vad jag har skrivit och eftersom den inte har förmågan att upptäcka falska nyheter, skriv något falskt till oss. Detta, eller med ett bättre exempel, skulle kunna översvämma nätverken.
6 månaders uppehåll för studiekontroll
Det som krävs är detAlla AI Labs pausa i minst 6 månader träningen av AI-system som är kraftfullare än ChatGPT-4. Denna paus bör vara offentlig och verifierbar och omfatta alla nyckelspelare. Om pausen inte kan genomföras snabbt, bör regeringarna skärpa sig och införa ett moratorium.".
Alla laboratorier och oberoende experter bör använda denna tid till implementera en uppsättning säkerhetsprotokoll, som översatt kan tas som ett annat sätt att säga att du måste skriva lagar som liknar robotiks berömda lagar.
Är det inte samma sak för regeringar?
Det som slår mig personligen är en punkt där han säger att parallellt måste AI-utvecklare arbeta med beslutsfattare för att påskynda utvecklingen av artificiell intelligens för statliga system. Det vill säga, hjälpa regeringar med sin egen artificiella intelligens att med några få ord kunna kontrollera artificiell intelligens. Gör som jag säger, inte vad jag gör.
Att brevet var undertecknat av Elon Musk förvånar mig inte. Det har avslöjats att han var med och grundade OpenAI, och det verkar som att hans framgång skadar efter att ha lämnat företaget. För övrigt, ja, det är sant att artificiell intelligens, hur intelligent de än är, i beslutsfattande sägs inte vara bättre än ett 7-årigt barn, och att det kan vara svårt för dem att skilja på sant från falsk information. , så poängen med falska nyheter är en möjlighet och åtgärder måste vidtas. För allt annat tror jag att så länge de inte får missiluppskjutningskoderna så ser det inte så illa ut. Jag hoppas att jag inte har fel.