Tak, ile szkód wyrządził Skynet. Nie sądzę, aby mówienie o pracy, która opublikowała swój pierwszy odcinek prawie 40 lat temu (1984), było psujące, ale cztery dekady temu nie było sztucznej inteligencji poza małymi programami, które trochę się uczyły i puszczały wodze fantazji. W ten sposób powstała postać Skynetu, programu, który sam się uczył, ulepszał i ulepszał, aż stał się świadomy siebie, „przestraszony”, aby dowiedzieć się, że zostanie wyłączony i zakończy ludzkość, jak ją znano, wystrzeliwując rakiety między USA a Rosją. . Najbardziej zaawansowany, jaki istnieje obecnie, przynajmniej jest znany CzatGPT 4, a jego ulepszenia zaczęły przerażać lub przynajmniej irytować.
Ale przejdźmy do bardziej realistycznego punktu. Niepokój sygnatariuszy ww list otwarty, w tym Elon Musk, mają inne obawy lub nie mają pełnego formularza. On ich strach jest przed nieznanym, jedną z najczęstszych obaw, jest to, że OpenAI i inne fundacje, programy i projekty ulepszają swoje sztuczne inteligencje, jakby to był wyścig, aby zobaczyć, kto zajdzie dalej i kiedy, a to może dać różne wyniki.
ChatGPT 4 w centrum uwagi
W wersji <4 chatbota OpenAI rzeczy wydawały się bardziej „zabawne” lub „urocze”, użyj dowolnego słowa, które wolisz. Pytają go o różne rzeczy, a on odpowiada; jesteś proszony o poprawienie sekcji kodu i robisz to; pytasz go o znaczenie litery z piosenki lub filmu, a on ci to wyjaśnia; ale ChatGPT 4 poszedł dalej. Twoje odpowiedzi znacznie się poprawiły i możesz nawet generować treści, które mogą być fałszywe.
Ponieważ jest to jedna z wymienionych obaw: wyobraźmy sobie, że piszę bardzo szczegółowy artykuł o tym, dlaczego człowiek nigdy nie dotarł na Księżyc. Ten artykuł ma wiele odwiedzin i jest wszędzie udostępniany, chociaż w niektórych przypadkach ma to na celu krytykę. Później pytamy ChatGPT, co się stało w tym momencie, aby napisał nam artykuł o tym wydarzeniu, pisze nam coś na podstawie tego, co napisałem, a ponieważ nie ma możliwości wykrycia fałszywe wiadomości, napisz nam coś nieprawdziwego. To, lub podając lepszy przykład, może zalać sieci.
6 miesięcy przerwy na studia kontrolne
Wymagane jest toWszystkie laboratoria sztucznej inteligencji wstrzymać na co najmniej 6 miesięcy szkolenie systemów AI potężniejszych niż ChatGPT-4. Ta przerwa powinna być publiczna i możliwa do zweryfikowania oraz obejmować wszystkich kluczowych graczy. Jeśli pauza nie może zostać szybko uchwalona, rządy powinny zintensyfikować działania i wprowadzić moratorium.".
Wszystkie laboratoria i niezależni eksperci powinni wykorzystać ten czas zaimplementować zestaw protokołów bezpieczeństwa, co w tłumaczeniu można by potraktować jako inny sposób powiedzenia, że trzeba napisać prawa podobne do słynnych praw robotyki.
Czy nie tak samo jest z rządami?
To, co mnie osobiście uderza, to punkt, w którym mówi, że równolegle twórcy sztucznej inteligencji muszą współpracować z decydentami, aby przyspieszyć rozwój sztucznej inteligencji dla systemów rządowych. To jest do powiedzenia, pomóc rządom za pomocą ich własnej sztucznej inteligencji móc w kilku słowach sterować sztuczną inteligencją. Rób to, co mówię, a nie to, co robię.
Nie dziwi mnie, że list został podpisany przez Elona Muska. Okazało się, że był współzałożycielem OpenAI i wydaje się, że po odejściu z firmy jego sukces boli. Co do reszty, tak, prawdą jest, że sztuczna inteligencja, jakkolwiek by nie była inteligentna, w podejmowaniu decyzji podobno nie jest lepsza niż 7-letnie dziecko i że może im być trudno odróżnić prawdę od fałszywe informacje. , więc celem fałszywych wiadomości jest możliwość i należy podjąć działania. Jeśli chodzi o wszystko inne, myślę, że dopóki nie otrzymają kodów startowych rakiet, sprawy nie wyglądają tak źle. Mam nadzieję, że się nie mylę.