Ja, hoeveel schade heeft Skynet aangericht. Ik denk niet dat praten over een werk dat bijna 40 jaar geleden (1984) zijn eerste aflevering publiceerde, verwent, maar vier decennia geleden was er geen kunstmatige intelligentie buiten kleine programma's die een beetje leerden en je fantasie de vrije loop lieten. Dit is hoe de figuur van Skynet werd bedacht, een programma dat uit zichzelf leerde en verbeterde en verbeterde totdat het zich bewust werd van zichzelf, "bang" om te horen dat het zou worden uitgeschakeld en een einde zou maken aan de mensheid zoals het werd genoemd door raketten te lanceren tussen de VS en Rusland... Het meest geavanceerde dat nu bestaat, tenminste dat is bekend ChatGPT4, en de verbeteringen ervan zijn gaan schrikken of op zijn minst irriteren.
Maar laten we naar een realistischer punt gaan. De bezorgdheid van de ondertekenaars van de open brief, waaronder Elon Musk, andere zorgen hebben, of een zonder volledig formulier. Hij hun angst is voor het onbekende, een van de meest voorkomende angsten, is dat OpenAI en andere stichtingen, programma's en projecten hun kunstmatige intelligentie verbeteren alsof het een race is om te zien wie verder komt en wanneer, en dit kan ongelijksoortige resultaten opleveren.
ChatGPT 4 in de schijnwerpers
Met versie <4 van de OpenAI-chatbot leken de dingen meer "grappig" of "schattig", gebruik het woord dat u verkiest. Ze vragen hem dingen en hij antwoordt; u wordt gevraagd een stuk code te corrigeren en u doet dat; je vraagt hem naar de betekenis van een brief uit een liedje of een film en hij legt het je uit; maar ChatGPT 4 is verder gegaan. Je antwoorden zijn veel verbeterd en je kunt zelfs genereren inhoud die vals kan zijn.
Want dit is een van de zorgen die genoemd worden: stel je voor dat ik een heel gedetailleerd artikel schrijf over waarom de mens nooit de maan heeft bereikt. Dit artikel heeft veel bezoeken en wordt overal gedeeld, al is het in sommige gevallen om het te bekritiseren. Later vragen we ChatGPT wat er op dat moment is gebeurd, om ons een artikel over die gebeurtenis te schrijven, het schrijft ons iets op basis van wat ik heb geschreven en, aangezien het niet in staat is om te detecteren nep-nieuws, schrijf ons iets vals. Dit, of met een beter voorbeeld, zou de netwerken kunnen overspoelen.
6 maanden pauze om controle te studeren
Wat nodig is, is datAlle AI-labs onderbreek minstens 6 maanden de training van AI-systemen die krachtiger zijn dan ChatGPT-4. Deze pauze moet openbaar en verifieerbaar zijn en alle belangrijke spelers omvatten. Als de pauze niet snel kan worden ingevoerd, moeten regeringen optreden en een moratorium instellen.".
Alle laboratoria en onafhankelijke experts zouden deze tijd moeten gebruiken om implementeer een reeks beveiligingsprotocollen, wat vertaald zou kunnen worden als een andere manier om te zeggen dat je wetten moet schrijven die vergelijkbaar zijn met de beroemde wetten van de robotica.
Geldt dat niet ook voor overheden?
Wat mij persoonlijk opvalt, is een punt waarop hij zegt dat tegelijkertijd AI-ontwikkelaars moeten samenwerken met beleidsmakers om de ontwikkeling van kunstmatige intelligentie voor overheidssystemen te versnellen. Het is te zeggen, overheden helpen met hun eigen kunstmatige intelligentie om in een paar woorden kunstmatige intelligenties te kunnen beheersen. Doe wat ik zeg, niet wat ik doe.
Dat de brief is ondertekend door Elon Musk verbaast me niet. Er is onthuld dat hij mede-oprichter was van OpenAI, en het lijkt erop dat zijn succes na het verlaten van het bedrijf pijn doet. Voor de rest, ja, het is waar dat kunstmatige intelligentie, hoe intelligent ze ook zijn, bij het nemen van beslissingen niet beter zou zijn dan een 7-jarig kind, en dat het voor hen misschien moeilijk is om waar van valse informatie. , dus het punt van nepnieuws is een mogelijkheid en er moet actie worden ondernomen. Voor al het andere denk ik dat zolang ze de raketlanceringscodes niet krijgen, het er niet zo slecht uitziet. Ik hoop dat ik het niet mis heb.