Reale und eingebildete Risiken der Künstlichen Intelligenz (Meinung)

Modelle der künstlichen Intelligenz sind nicht in der Lage, Anomalien zu erkennen

Vor einiger Zeit, mein Pablinux-Partner Er sagte uns auf der Brief, den der unerträgliche Elon Musk und andere Persönlichkeiten schrieben, in dem er um eine Pause bei der Forschung im Bereich der künstlichen Intelligenz bat bis Maßnahmen ergriffen werden können, um mögliche nachteilige Auswirkungen zu verhindern. Das gibt mir den Vorwand, über die realen und eingebildeten Risiken der künstlichen Intelligenz zu sprechen.

Auf die Gefahr hin, mich mit fehlgeschlagenen Vorhersagen im Stil von Bill Gates lächerlich zu machen, beginne ich damit, meiner Meinung nach zu sagen Das derzeit größte Risiko ist das Platzen einer Blase Das wird die Dotcoms einem leichten Schock aussetzen.

Die realen und eingebildeten Risiken der Künstlichen Intelligenz

Ich stimme Pablinux zu, dass der Brief mehr mittelalterlichen Obskurantismus als wissenschaftliche Argumentation hat. Das während sie weiterhin die Idee teilen, dass Gesetze erlassen werden sollten, um die Nutzung ihrer Inhalte zu regulieren. Wir können jedoch nicht leugnen, dass alle Technologien die Menschen verwirrten und verängstigten, bis sie allgemein bekannt waren.

Die Projektion der Ankunft eines Zuges zu Beginn der Kinematographie ließ die Menschen aus dem Raum fliehen und, obwohl es viel von einer urbanen Legende hat, die Radioversion Krieg der Welten von Orson Welles löste ziemliche Panik unter Leuten aus, die glaubten, dass es echt sei.

Tatsächlich ist diese Art der Softwareregulierung nichts Neues. Finanzaufsichtsbehörden in vielen Ländern verbieten Programmen wie Photoshop, Bilder von Banknoten oder Schecks zu bearbeiten.

1994 veröffentlichte Tom Clancy Ehrenschuld. Als Experte für Verteidigungsfragen gilt Clancy istellte sich einen Angriff auf das Finanzsystem der Vereinigten Staaten vor, indem er die Expertensysteme der Aktiengesellschaften manipulierte, um zu glauben, dass eine Krise stattfand löste eine Verkaufswelle aus, die schließlich die Krise hervorrief.

Bevor Sie es als Fiktion abtun, denken Sie daran, dass Clancy in demselben Roman sieben Jahre vor den Twin Towers voraussah, dass die Vereinigten Staaten Angriffe mit Verkehrsflugzeugen erleiden könnten.

Eigentlich ist die Idee nicht neu. Der Film von 1983 Kriegsspiele Darin wurde erzählt, wie ein Teenager den Computer, der für den Raketenstart zuständig war, zu der Annahme verleitete, dass die Russen angreifen würden.

Stellen wir uns vor, wir hören einen herannahenden Galopp. Unsere erste Schlussfolgerung ist, dass es sich um ein Pferd handelt, und in 9 von 10 Fällen werden wir Recht haben. Aber es besteht immer die Möglichkeit, dass es sich um ein Zebra handelt, das aus dem Zoo entkommen ist. Ärzte, Astronauten und Flugzeugpiloten werden streng darauf trainiert, an Zebras zu denken und zu wissen, was zu tun ist, wenn eine Anomalie auftritt. Modelle der künstlichen Intelligenz werden mit Blick auf Pferde trainiert.

Ein Modell wie das von ChatGPT verwendete basiert auf vorhandenen Informationen in seiner Wissensdatenbank. Je öfter diese Informationen wiederholt werden, desto größer ist die Glaubwürdigkeit, die sie verleihen.

Da das Speichern aller verfügbaren Informationen viel Speicherplatz benötigen würde, Es speichert nur das, was relevant ist, und baut es dann bei Bedarf mit der Struktur neu auf, die statistisch am relevantesten erscheint. Daher zitiere ich oft Referenzen, die nicht existieren, nur weil es statistisch wahrscheinlich ist, dass es ein Dokument mit diesem Titel gibt, das diesen Inhalt enthält.

Über Zebras und Hunde, die nicht bellen

Gibt es noch einen anderen Punkt, auf den Sie mich aufmerksam machen möchten?
-Der merkwürdige Vorfall mit dem Hund bei Nacht.
- Der Hund tat nachts nichts.
Das war der merkwürdige Vorfall.

Sir Arthur Conan Doyle

Ein weiteres Risiko von Systemen der künstlichen Intelligenz besteht darin, was sie nicht tun. Und es ist auch ein wichtiger Punkt, den es zu beachten gilt.

In den XNUMXer Jahren vermutete ein australischer Arzt, dass die häufigste Ursache von Geschwüren Bakterien seien. Da er keinen großartigen Lebenslauf hatte, lachten sie ihm ins Gesicht, bis er recht hatte. Wie viele andere wissenschaftliche Entdeckungen (die Rotation der Planeten, die Tatsache, dass man umso produktiver ist, je mehr Pausen man einlegt) widersprechen sie der Weisheit des Augenblicks.

Aber Intelligenzmodelle basieren auf der Weisheit des Augenblicks. In jenem Wissen, in dem Konsens besteht. So wie Gefriertechnologie, Autos und Lieferungen die Zahl der Fettleibigen erhöht haben, kann uns die Verfügbarkeit von Hilfsmitteln der künstlichen Technologie zu faulen Intellektuellen machen und Innovationen ersticken.

Wie Sie sehen, gibt es neben der Angst, von den Maschinen versklavt zu werden, genug Dinge, um die Sie sich Sorgen machen müssen. Und dass wir immer noch nicht über den Zugriff auf den Quellcode und die Privatsphäre der Benutzer sprechen.


Schreiben Sie den ersten Kommentar

Hinterlasse einen Kommentar

Ihre E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind markiert mit *

*

*

  1. Verantwortlich für die Daten: AB Internet Networks 2008 SL
  2. Zweck der Daten: Kontrolle von SPAM, Kommentarverwaltung.
  3. Legitimation: Ihre Zustimmung
  4. Übermittlung der Daten: Die Daten werden nur durch gesetzliche Verpflichtung an Dritte weitergegeben.
  5. Datenspeicherung: Von Occentus Networks (EU) gehostete Datenbank
  6. Rechte: Sie können Ihre Informationen jederzeit einschränken, wiederherstellen und löschen.