ウォズニアック氏やマスク氏らがAI開発の「制御不能」の一時停止を呼び掛ける

スティーブ・ウォズニアック氏、イーロン・マスク氏、その他1,000人以上が、ChatGPT-4より強力なAI技術の即時6か月停止を求める公開書簡に署名した。

今年は、ChatGPT や Google Bard などの人工知能エージェントが主流になった年でした。すべての AI 企業が自社の製品を実験、つまり事実上のベータリリースであると説明しているにもかかわらず、その言語処理機能は Microsoft 365 や Bing を含む検索に統合されています。

今、未来の生命研究所は求める現場の「主要な関係者全員」を含む「公開かつ検証可能な」一時停止。さらに、「そのような一時停止をすぐに制定できない場合は、政府が介入して一時停止措置を講じるべきである」と付け加えた。

Future of Life Institute は、「革新的なテクノロジーを、生命に利益をもたらし、極度に大規模なリスクを回避する方向に導く」ことを目的としています。

すべてのAI開発者に向けたこの600ワードの書簡は、「ここ数か月間、AI研究室は、誰も、さらにはさえもできない、これまで以上に強力なデジタルマインドを開発し導入するための制御不能な競争に閉じ込められているため、一時停止が必要である」と主張している。その作成者は理解、予測、または確実に制御することができます。」

「AI研究所と独立した専門家は、この一時停止を利用して、独立した外部の専門家によって厳格に監査および監督される、高度なAIの設計と開発のための一連の共有安全プロトコルを共同で開発および実装する必要がある」と同誌は続けている。「これらのプロトコルは、それに準拠するシステムが合理的な疑いを超えて安全であることを保証する必要があります。」

公開書簡では、「これはAI開発全般の一時停止を意味するものではなく、危険な競争から、新たな機能を備えたますます大規模で予測不可能なブラックボックスモデルへの後退を意味するだけだ」と述べている。

この記事の執筆時点で、同研究所の公開書簡には1,123人が署名している。それらには、次のような注目度の高いものが含まれます。