Kiom da damaĝo faris Skynet: Malferma Letero Petas Ĉesigon de Grandskalaj AI Eksperimentoj de ChatGPT 4

Jes, kiom da damaĝo faris Skynet. Mi ne pensas, ke paroli pri verko, kiu publikigis sian unuan epizodon antaŭ preskaŭ 40 jaroj (1984), estas difekto, sed antaŭ kvar jardekoj ne ekzistis artefarita inteligenteco preter malgrandaj programoj, kiuj iomete lernis kaj lasis vian imagon kuri. Tiel estis konceptita la figuro de Skynet, programo kiu lernis per si mem kaj pliboniĝis kaj pliboniĝis ĝis ĝi ekkonsciis pri si mem, "timigita" eksciante, ke ĝi estos malŝaltita kaj finos la homaron kiel ĝi estis konata per lanĉo de misiloj. inter Usono kaj Rusio... La plej progresinta kiu nun ekzistas, almenaŭ tio estas konata, estas BabiladoGPT 4, kaj ĝiaj plibonigoj venis timigi aŭ, almenaŭ, ĝeni.

Sed ni iru al pli realisma punkto. La zorgo de la subskribintoj de la malferma letero, inkluzive de Elon Musk, havas aliajn zorgojn, aŭ unu sen plena formo. Li ilia timo estas de la nekonata, unu el la plej oftaj timoj, estas ke OpenAI kaj aliaj fondaĵoj, programoj kaj projektoj plibonigas siajn artefaritajn inteligentecojn kvazaŭ ĝi estus vetkuro por vidi kiu atingas pli kaj kiam, kaj ĉi tio povas doni malsimilajn rezultojn.

ChatGPT 4 en la spoto

Kun versio < 4 de la babilejo de OpenAI, aferoj ŝajnis pli "amuzaj" aŭ "belaj", uzu kian ajn vorton vi preferas. Ili demandas al li aferojn kaj li respondas; oni petas vin korekti sekcion de kodo kaj vi faras tion; vi petas de li la signifon de letero el kanto aŭ filmo kaj li klarigas ĝin al vi; sed ChatGPT 4 iris plu. Viaj respondoj multe pliboniĝis, kaj vi eĉ povas generi enhavo kiu povus esti falsa.

Ĉar tio estas unu el la zorgoj, kiujn oni mencias: ni imagu, ke mi verkas tre detalan artikolon pri kial la homo neniam atingis la lunon. Ĉi tiu artikolo havas multajn vizitojn kaj estas ĉie kunhavata, kvankam en iuj kazoj estas por kritiki ĝin. Poste, ni demandas al ChatGPT kio okazis en tiu momento, por skribi al ni artikolon pri tiu evento, ĝi skribas al ni ion bazitan sur tio, kion mi skribis kaj, ĉar ĝi ne havas la kapablon detekti falsa novaĵo, skribu al ni ion malvera. Ĉi tio, aŭ kun pli bona ekzemplo, povus inundi la retojn.

6-monata paŭzo por studi kontrolon

Kio necesas estas tioĈiuj AI-Laboratorioj paŭzu dum almenaŭ 6 monatoj la trejnadon de AI-sistemoj pli potencaj ol ChatGPT-4. Ĉi tiu paŭzo devus esti publika kaj kontrolebla, kaj inkluzivi ĉiujn ĉefajn ludantojn. Se la paŭzo ne povas esti realigita rapide, registaroj devus akceli kaj estigi moratorion.".

Ĉiuj laboratorioj kaj sendependaj spertuloj devus uzi ĉi tiun tempon por efektivigi aron da sekurecaj protokoloj, kiu tradukiĝis povus esti prenita kiel alia maniero diri, ke oni devas skribi leĝojn similajn al la famaj leĝoj de robotiko.

Ĉu ne estas same por registaroj?

Kio persone frapas min estas punkto, kie li diras, ke paralele, AI-programistoj devas labori kun politikofarantoj por akceli la disvolviĝon de artefarita inteligenteco por registaraj sistemoj. Alivorte, helpi registarojn per sia propra artefarita inteligenteco povi, en kelkaj vortoj, regi artefaritajn inteligentecojn. Faru tion, kion mi diras, ne tion, kion mi faras.

Ke la letero estis subskribita de Elon Musk ne surprizas min. Estis rivelita, ke li kunfondis OpenAI, kaj ŝajnas, ke post forlasi la kompanion, lia sukceso doloras. Cetere jes, estas vere, ke artefarita inteligenteco, kiom ajn inteligenta ili estas, en decidofarado oni diras, ke ne estas pli bona ol 7-jara infano, kaj ke eble malfacile diferencas la veron de falsa informo. , do la punkto de falsa novaĵo estas ebleco kaj ago devas esti prenita. Por ĉio alia, mi pensas, ke dum ili ne ricevas la misillanĉajn kodojn, aferoj ne aspektas tiel malbone. Mi esperas, ke mi ne eraras.