Prawdziwe i wyimaginowane zagrożenia sztucznej inteligencji (opinia)

Modele sztucznej inteligencji nie są w stanie wykryć anomalii

Jakiś czas temu mój partner z Pablinuksa Powiedział nam na list, który napisał nieznośny Elon Musk i inne osobistości, prosząc o przerwę w badaniach nad sztuczną inteligencją do czasu podjęcia środków zapobiegających jego ewentualnym negatywnym skutkom. To daje mi pretekst do rozmowy o rzeczywistych i wyimaginowanych zagrożeniach związanych ze sztuczną inteligencją.

Ryzykując, że zrobię z siebie głupka z nieudanymi przewidywaniami w stylu Billa Gatesa, zacznę od stwierdzenia, że ​​moim zdaniem największym ryzykiem w tej chwili jest pęknięcie bańki To pozostawi dot-comy w lekkim szoku.

Prawdziwe i wyimaginowane zagrożenia sztucznej inteligencji

Zgadzam się z Pablinuksem, że list ma więcej średniowiecznego obskurantyzmu niż naukowego rozumowania. To przy jednoczesnym dalszym podzielaniu poglądu, że należy ustanowić ustawodawstwo regulujące korzystanie z jego treści. Nie możemy jednak zaprzeczyć, że cała technologia dezorientowała i przerażała ludzi, dopóki nie była dobrze znana.

Projekcja nadjeżdżającego pociągu na początku kinematografii skłoniła ludzi do ucieczki z sali i choć ma wiele z miejskich legend, radiowa wersja Wojna światów Orsona Wellesa wywołał niemałą panikę wśród ludzi, którzy wierzyli, że to prawda.

W rzeczywistości ten rodzaj regulacji oprogramowania nie jest niczym nowym. Organy nadzoru finansowego w wielu krajach zabraniają programom takim jak Photoshop edytowania obrazów banknotów lub czeków.

W 1994 Tom Clancy opublikował Dług honorowy. Uważany za eksperta w kwestiach obronnych, Clancy iwyobrażał sobie atak na system finansowy Stanów Zjednoczonych poprzez manipulowanie systemami eksperckimi spółek giełdowych, aby uwierzyły, że ma miejsce kryzys wyzwalając falę sprzedaży, która ostatecznie doprowadziła do kryzysu.

Zanim odrzucisz to jako fikcję, pamiętaj, że w tej samej powieści, 7 lat przed Bliźniaczymi Wieżami, Clancy przewidział, że Stany Zjednoczone mogą zostać zaatakowane przy użyciu komercyjnych samolotów.

Właściwie pomysł nie jest nowy. film z 1983 roku Gry wojenne Opowiadał, jak nastolatek pomylił komputer odpowiedzialny za wystrzelenie rakiety, aby pomyślał, że Rosjanie atakują.

Wyobraźmy sobie, że słyszymy zbliżający się galop. Nasz pierwszy wniosek jest taki, że to koń i w 9 przypadkach na 10 będziemy mieli rację. Ale zawsze istnieje możliwość, że to zebra uciekła z zoo. Lekarze, astronauci i piloci samolotów przechodzą surowe szkolenie dotyczące zebr, wiedząc, co zrobić, jeśli wystąpią anomalie. Modele sztucznej inteligencji są szkolone z myślą o koniach.

Model taki jak ten używany przez ChatGPT opiera się na istniejących informacjach w jego bazie wiedzy. Im więcej razy ta informacja jest powtarzana, tym większa jest jej wiarygodność.

Ponieważ zapisanie wszystkich dostępnych informacji wymagałoby dużo miejsca, zapisuje tylko to, co jest istotne, a następnie odbudowuje to zgodnie z żądaniem, używając struktury, która statystycznie wydaje się najbardziej odpowiednia. Dlatego często cytuję odniesienia, które nie istnieją, tylko dlatego, że statystycznie jest prawdopodobne, że istnieje dokument o takim tytule, który zawiera taką treść.

O zebrach i psach, które nie szczekają

Czy jest jeszcze jakiś punkt, na który chciałbyś zwrócić moją uwagę?
-Ciekawy incydent z psem w nocy.
- Pies nic nie robił w nocy.
To był ciekawy incydent.

Sir Arthura Conan Doyle'a

Innym ryzykiem związanym z systemami sztucznej inteligencji jest to, czego nie robią. I jest to również ważny punkt, o którym należy pamiętać.

W latach XNUMX. australijski lekarz przypuszczał, że najczęstszą przyczyną wrzodów są bakterie. Ponieważ nie miał wspaniałego CV, śmiali mu się w twarz, dopóki nie udowodniono, że miał rację. Podobnie jak wiele innych odkryć naukowych (obrót planet, fakt, że im więcej robisz przerw, tym bardziej jesteś produktywny), są one sprzeczne z mądrością chwili.

Ale modele Inteligencji opierają się na mądrości chwili. W tej wiedzy, w której istnieje konsensus. Tak jak technologia zamrażania, samochody i dostawy zwiększyły liczbę osób otyłych, tak dostępność narzędzi sztucznej technologii może sprawić, że staniemy się leniwymi intelektualistami i zdusimy innowacje.

Jak widać, jest wystarczająco dużo rzeczy, o które należy się martwić, oprócz strachu przed zniewoleniem przez maszyny. I że nadal nie rozmawiamy o dostępie do kodu źródłowego i prywatności użytkowników.


Bądź pierwszym który skomentuje

Zostaw swój komentarz

Twój adres e-mail nie zostanie opublikowany. Wymagane pola są oznaczone *

*

*

  1. Odpowiedzialny za dane: AB Internet Networks 2008 SL
  2. Cel danych: kontrola spamu, zarządzanie komentarzami.
  3. Legitymacja: Twoja zgoda
  4. Przekazywanie danych: Dane nie będą przekazywane stronom trzecim, z wyjątkiem obowiązku prawnego.
  5. Przechowywanie danych: baza danych hostowana przez Occentus Networks (UE)
  6. Prawa: w dowolnym momencie możesz ograniczyć, odzyskać i usunąć swoje dane.