Nemrég, Pablinux partnerem Ő mondta nekünk tovább a levél, amelyet az elviselhetetlen Elon Musk és más személyiségek írtak, és a mesterséges intelligencia kutatásának szüneteltetését kérték mindaddig, amíg intézkedéseket nem lehet tenni az esetleges káros hatások megelőzésére. Ez ad ürügyet arra, hogy a mesterséges intelligencia valós és képzelt kockázatairól beszéljek.
Azt kockáztatva, hogy bolondot csinálok magamból a sikertelen Bill Gates-féle jóslatokkal, azzal kezdem, hogy véleményem szerint a legnagyobb kockázat jelenleg a buborék kipukkanása Ez enyhe sokkot okoz a dot-com-oknak.
A mesterséges intelligencia valós és elképzelt kockázatai
Egyetértek Pablinuxszal abban, hogy a levélben több a középkori obskurantizmus, mint a tudományos érvelés. Hogy miközben továbbra is osztja azt az elképzelést, hogy jogszabályt kell alkotni a tartalom felhasználásának szabályozására. Nem tagadhatjuk azonban, hogy minden technológia összezavarta és megijesztette az embereket, amíg köztudott nem lett.
A filmezés kezdetén egy vonat érkezésének vetítése arra késztette az embereket, hogy elmeneküljenek a teremből, és bár nagy városi legenda van, a rádiós változat Világok háborúja Orson Welles rémületét keltette azokban az emberekben, akik azt hitték, hogy ez valóságos.
Valójában az ilyen típusú szoftverszabályozás nem újdonság. A pénzügyi szabályozó hatóságok sok országban megtiltják az olyan programoknak, mint a Photoshop, hogy szerkesztsék a bankjegyek vagy csekkek képeit.
1994-ben megjelent Tom Clancy Becsület adóssága. A védelmi kérdések szakértőjének tartott Clancy ielképzelt egy támadást az Egyesült Államok pénzügyi rendszere ellen úgy, hogy a részvénytársaságok szakértői rendszereit manipulálva elhiteti, hogy válság van egy eladási hullám felszabadítása, amely végül előidézte a válságot.
Mielőtt fikcióként utasítaná el, ne feledje, hogy ugyanabban a regényben, 7 évvel az ikertornyok előtt, Clancy arra számított, hogy az Egyesült Államokat támadások érhetik kereskedelmi repülőgépek használatával.
Valójában az ötlet nem új. az 1983-as film Háborús játékok Elmesélte, hogyan keverte össze egy tinédzser a rakétakilövésért felelős számítógépet azzal a gondolattal, hogy az oroszok támadnak.
Képzeljük el, hogy vágtát hallunk közeledni. Az első következtetésünk az, hogy ez egy ló, és 9-ből 10-szer nekünk lesz igazunk. De mindig fennáll annak a lehetősége, hogy egy zebra szökött meg az állatkertből. Az orvosok, az űrhajósok és a repülőgép-pilóták szigorú képzésben részesülnek a zebrákra gondolva, hogy tudják, mit kell tenni anomália esetén. A mesterséges intelligencia modelljeit a lovakra tekintettel képezik.
A ChatGPT által használt modell a tudásbázisában meglévő információkon alapul. Minél többször ismétlődik az információ, annál nagyobb hitelességet biztosít.
Mivel az összes elérhető információ mentése sok tárhelyet igényelne, csak azt menti el, ami releváns, majd igény szerint újraépíti a statisztikailag legrelevánsabbnak tűnő szerkezettel. Ezért sokszor hivatkozok olyan hivatkozásokra, amelyek csak azért nem léteznek, mert statisztikailag valószínű, hogy van egy ilyen címet viselő dokumentum, amely ezt a tartalmat tartalmazza.
A zebrákról és a nem ugató kutyákról
Van még valami, amire fel szeretnéd hívni a figyelmemet?
-A furcsa eset a kutyával éjszaka.
-A kutya nem csinált semmit éjjel.
Ez volt a különös esemény.
Sir Arthur Conan Doyle
A mesterséges intelligencia rendszerek másik kockázata az, hogy mit nem tesznek. És ez is egy fontos szempont, amit szem előtt kell tartani.
Az XNUMX-es években egy ausztrál orvos úgy vélte, hogy a fekélyek leggyakoribb oka a baktériumok. Mivel nem volt nagy önéletrajza, addig nevettek az arcába, amíg be nem bizonyosodott az igaza. Sok más tudományos felfedezéshez hasonlóan (a bolygók forgása, az a tény, hogy minél több szünetet tartasz, annál produktívabb vagy) ezek is ellentétesek a pillanatnyi bölcsességgel.
Az intelligenciamodellek azonban a pillanatnyi bölcsességen alapulnak. Azokban a tudásban, amelyekben konszenzus van. Ahogy a technológia, az autók és a kézbesítés befagyasztása növelte az elhízottak számát, a mesterséges technológiai eszközök elérhetősége lusta értelmiségivé tehet bennünket, és elfojthatja az innovációt.
Amint látja, van elég dolog, ami miatt aggódni kell azon felül, hogy félni kell attól, hogy a gépek rabszolgáivá válnak. És még mindig nem beszélünk a forráskódhoz való hozzáférésről és a felhasználók magánéletéről.