はい、スカイネットがどれだけの損害を与えたか。 ほぼ 40 年前 (1984 年) に最初のエピソードを公開した作品について話すことはネタバレではないと思いますが、XNUMX 年前には、少し学習して想像力を駆使する小さなプログラムを超える人工知能はありませんでした。 スカイネットの姿はこのように考え出されたもので、自ら学習し改良を重ね、自分自身に気付くまで改良を重ね、自分がオフにされることを知って「怖がり」、ミサイルを発射することで知られているように人類を終わらせるというものでした。アメリカとロシアの間で.. 現在存在する、少なくとも知られている最も先進的なものは、 チャットGPT 4、そしてその改善は怖がらせるか、少なくともイライラさせるようになりました.
しかし、より現実的なポイントに取り掛かりましょう。 署名者の懸念 オープンレター、イーロン・マスクを含む、他の懸念、または完全な形式のない懸念があります。 彼 彼らの恐怖は未知のものです、最も一般的な懸念の XNUMX つは、OpenAI やその他の財団、プログラム、プロジェクトが、あたかも誰が、いつ、さらに先に進むかを競うかのように、人工知能を改善していることです。これにより、異なる結果が生じる可能性があります。
脚光を浴びるChatGPT 4
バージョン 4 未満の OpenAI チャットボットでは、物事はより「面白い」または「かわいい」ように見えました。好きな言葉を使用してください。 彼らは彼に物事を尋ね、彼は答えます。 コードのセクションを修正するように求められ、それを修正します。 歌や映画からの手紙の意味を彼に尋ねると、彼はそれを説明してくれます。 しかし、ChatGPT 4 はさらに進んでいます。 あなたの答えは大幅に改善され、生成することさえできます 虚偽の可能性があるコンテンツ.
これは言及されている懸念の XNUMX つだからです。たとえば、人間が月に到達したことがない理由について非常に詳細な記事を書いたとします。 この記事は多くのアクセスがあり、どこでも共有されていますが、場合によってはそれを批判することです. 後で、ChatGPT にその瞬間に何が起こったのかを尋ね、そのイベントに関する記事を書いてもらいます。ChatGPT は、私が書いた内容に基づいて何かを書いてくれますが、検出する機能がないため、 偽のニュース、何か間違ったことを書いてください。 これにより、またはより良い例では、ネットワークがフラッディングする可能性があります。
コントロールを勉強するための6ヶ月の休憩
必要なのは、すべての AI ラボ ChatGPT-6 よりも強力な AI システムのトレーニングを少なくとも 4 か月間停止する. この一時停止は公開され、検証可能であり、主要なプレーヤーがすべて含まれている必要があります。 一時停止を迅速に実施できない場合、政府は強化してモラトリアムを導入する必要があります。"
すべての研究室 独立した専門家は、この時間を次の目的に使用する必要があります。 セキュリティプロトコルのセットを実装するこれは、有名なロボット工学の法則に似た法則を書かなければならないことを別の言い方で表すことができます。
政府も同じではないか。
個人的に印象に残っているのは、政府システム向けの人工知能の開発を加速するために、AI 開発者は政策立案者と並行して協力する必要があると彼が述べている点です。 つまり、 独自の人工知能で政府を支援する 簡単に言えば、人工知能を制御できるようにすることです。 私がすることではなく、私が言うことをしてください。
手紙がイーロン・マスクによって署名されたことは私を驚かせません. 彼が OpenAI を共同設立したことが明らかになり、会社を去った後、彼の成功は傷ついているようです。 残りの部分については、そうです、人工知能は、どれほど知的であっても、意思決定において7歳の子供よりも優れているとは言われておらず、真実と区別するのは難しいかもしれないというのは事実です。虚偽の情報なので、フェイクニュースのポイントは可能性があり、対策を講じる必要があります。 それ以外については、ミサイル発射コードが与えられていない限り、それほど悪くはないと思います。 私が間違っていないことを願っています。
コメントを最初に