人工知能の実際のリスクと想像上のリスク (意見)

人工知能モデルは異常を検出できません

少し前に、私の Pablinux パートナー 彼は私たちに語りました オン 我慢できないイーロン・マスクやその他の著名人が書いた、人工知能の研究の一時停止を求める手紙 起こりうる悪影響を防ぐための対策が講じられるまで。 これは、人工知能の実際のリスクと想像上のリスクについて話す口実を与えてくれます。

失敗したビル・ゲイツ式の予測で自分をばかにする危険を冒して、私は自分の意見では次のように言い始めます。 今の最大のリスクはバブル崩壊 それは、ドットコムを軽度のショックに任せるだろう.

人工知能の実際のリスクと想像上のリスク

私は、手紙が科学的推論よりも中世のあいまいさを持っているという Pablinux に同意します。 それか そのコンテンツの使用を規制するために法律を制定する必要があるという考えを共有し続けながら. しかし、すべてのテクノロジーが広く知られるまで、人々を混乱させ、怖がらせていたことは否定できません。

映画の冒頭で列車が到着するというプロジェクションは、人々が部屋から逃げ出し、多くの都市伝説がありますが、ラジオ版の 世界の戦争 オーソン・ウェルズの著書は、それが本物だと信じていた人々の間でかなりのパニックを引き起こしました.

実際、この種のソフトウェア規制は新しいものではありません。 多くの国の金融規制当局は、Photoshop などのプログラムが紙幣や小切手の画像を編集することを禁止しています。

1994年にトム・クランシーが公開 名誉の負債。 防衛問題の専門家と見なされているクランシー i証券会社の専門家システムを操作して、危機が起こっていると信じ込ませて、米国の金融システムへの攻撃を想像した 最終的に危機を生み出した売りの波を解き放ちました。

フィクションとして却下する前に、同じ小説の中で、ツイン タワーの 7 年前に、クランシーは米国が民間航空機を使用した攻撃を受ける可能性があると予測していたことを思い出してください。

実際、このアイデアは新しいものではありません。 1983年の映画 戦争ゲーム それは、XNUMX 代の若者が、ミサイル発射を担当するコンピューターを混乱させて、ロシア人が攻撃していると思い込ませた方法を詳述しています。

ギャロップが近づいてくるのが聞こえたと想像してみましょう。 私たちの最初の結論は、これは馬であり、9 回中 10 回は正しいということです。 しかし、動物園から逃げ出したシマウマである可能性は常にあります。 医師、宇宙飛行士、飛行機のパイロットは、異常が発生した場合の対処法を知り、シマウマについて考えて厳しい訓練を受けます。 人工知能モデルは、馬を念頭に置いてトレーニングされています。

ChatGPT で使用されているようなモデルは、ナレッジ ベースの既存の情報に基づいています。 その情報が繰り返されるほど、その信頼性は高まります。

利用可能なすべての情報を保存するには、多くのストレージ容量が必要になるため、 関連するものだけを保存し、統計的に最も関連性が高いと思われる構造を使用して、要求に応じて再構築します. したがって、統計的にその内容を含むそのタイトルのドキュメントが存在する可能性が高いという理由だけで、存在しない参考文献を何度も引用しています。

吠えないシマウマと犬について

他に注目したい点はありますか?
・夜の犬の奇怪な事件。
-犬は夜何もしませんでした。
それは奇妙な出来事でした。

サー·アーサー·コナン·ドイル

人工知能システムが持つもう XNUMX つのリスクは、彼らが何をしないかということです。 そして、これも重要なポイントです。

XNUMX 年代、オーストラリアの医師は、潰瘍の最も一般的な原因は細菌であると推測しました。 彼は素晴らしい履歴書を持っていなかったので、彼が正しいことが証明されるまで、彼らは彼の顔を笑った. 他の多くの科学的発見 (惑星の自転、休憩を取るほど生産性が向上するという事実) と同様に、それらは当時の知恵に反するものです。

しかし、インテリジェンス モデルはその時々の知恵に基づいています。 コンセンサスがあるそれらの知識の中で。 凍結技術、自動車、配達によって肥満者が増えたように、人工技術ツールが利用可能になったことで、私たちは怠惰な知識人になり、イノベーションを抑圧する可能性があります。

ご覧のとおり、機械の奴隷になることへの恐れに加えて、心配することがたくさんあります。 そして、ソースコードへのアクセスとユーザーのプライバシーについてはまだ話していません.


コメントを最初に

コメントを残す

あなたのメールアドレスが公開されることはありません。 必須フィールドには付いています *

*

*

  1. データの責任者:AB Internet Networks 2008 SL
  2. データの目的:SPAMの制御、コメント管理。
  3. 正当化:あなたの同意
  4. データの伝達:法的義務がある場合を除き、データが第三者に伝達されることはありません。
  5. データストレージ:Occentus Networks(EU)がホストするデータベース
  6. 権利:いつでも情報を制限、回復、削除できます。