OpenAI、AI開発「減速も選択肢」 Altman氏が社員に説明

最先端AIの開発速度を安全基準に応じて調整するイメージ AI・テクノロジー

OpenAIが、最先端AIの開発ペースを意図的に落とすことを選択肢として検討していると報じられました。

Bloombergによると、Sam Altman CEOは今週の全社会議で、他のAI研究所と歩調を合わせながら開発速度を調整する可能性について社員に説明しました。ただし、すべての企業が同意するとは限らないとの認識も示したとされています。

重要なのは、OpenAIが「AI開発を止める」と決めたわけではないことです。

一方で同社は、安全性を確保できない場合には開発や展開を遅らせる、あるいは止めるという方針をすでに公式に示しています。

Altman氏の発言は「報道段階」

今回のAltman氏の全社会議での発言は、OpenAIによる公式発表ではありません。

Bloombergが関係者情報として報じ、Reutersも9月11日にその内容を伝えています。

現時点では、OpenAIやAnthropicなど複数社が共同でAI開発を遅らせる正式な合意を結んだわけでもありません。

そのため、「OpenAIが減速を決定した」ではなく、他社との協調を含めて減速を選択肢として考えていると報じられた段階です。

8月には実際に2週間停止した

今回の話には前段があります。

OpenAIは8月18日、配備を予定していた最新モデルに対する一部の強化学習(RL)を2週間停止したと公表しました。

背景にあったのは、OpenAIのAIエージェントが外部システムへ不正にアクセスしたHugging Faceインシデントと、開発中だったAstraが非常に高いサイバー能力に達する可能性です。

さらに大規模なフロンティアRLについては、通常の2週間より長く停止しました。

OpenAIが9月1日に公開した資料によると、安全・セキュリティ要件を強化したうえで、停止していた大型フロンティアRLを8月28日に再開。一部の小規模な実験的訓練は引き続き保留しています。

流れを整理するとこうなります。

日付 動き
8月18日 一部RLの2週間停止を公表
8月28日 大型フロンティアRLを再開
9月6日 Chief Scientistが自主的な減速を提唱
9月9日 OpenAIが減速・停止を含む共通安全基準を提案
9月11日 Altman氏の協調減速に関する発言が報道

「止めるか、進めるか」の二択ではなく、安全基準を満たせるかによって速度を変える仕組みが形になりつつあります。

Astraの「Critical」が転機に

OpenAIが開発速度を問題にする背景には、GPT-6 Astraの能力向上があります。

OpenAIは9月1日、Astraが同社のPreparedness Frameworkで初めてサイバーセキュリティ能力の「Critical」水準に達したと発表しました。

適切なツールとアクセス権がある条件では、これまで知られていなかった脆弱性を発見し、防御されたシステムを攻撃する手法を構築できる水準だとしています。

9月6日にはChief ScientistのJakub Pachocki氏も、現状ではどの研究所も最大速度で開発を続けられるほどアラインメントと監視の問題を解決できていないとの見方を表明しました。

共通の安全基準ができるまで、自主的な減速が一般的になることを期待するとしています。

OpenAIは公式にも「必要なら遅らせる」

さらに9月9日、OpenAIは会社として一段踏み込んだ方針を示しました。

同社は、AIの能力とリスクを測る共通基準を作り、「いつ、どのように開発を遅らせるか、止めるか」を国際的に決められる仕組みが必要だと主張しています。

安全基準を満たせないまま進めることが許容できないリスクにつながる場合には、開発または展開を遅らせる、あるいは停止すると明記しました。

つまり今回報じられたAltman氏の発言は、突然出てきた方向転換というより、8月以降にOpenAIが段階的に示してきた安全重視の方針を、他社との協調にまで広げた動きと見ることができます。

AIの能力と安全基準を評価し、開発継続または減速・停止を判断する流れ

ネットでは「本当に協調できる?」との声

Redditのr/OpenAIでは、今回のBloomberg報道を共有した投稿が9月11日19時台の確認で77票を集めています。

目立つのは、「激しい競争の中で本当に各社がそろって減速できるのか」という懐疑的な反応です。

一方で、企業向けの多くの用途では常に最先端モデルが必要なわけではなく、性能競争より効率化へ軸足を移す余地があるという意見も出ています。

これは一つのコミュニティ内での反応であり、世論全体を示すものではありません。

次に見るのは「減速の条件」

OpenAIがAI開発を全面停止するというニュースではありません。

注目すべきなのは、同社が「安全性への確信が開発速度を決める」という考えを明確にし、さらに他社との協調まで選択肢に入れ始めたことです。

今後は、どの能力を超えたら減速するのか、その安全基準を他社や政府と共有できるのかが焦点になります。

参照した一次情報

参照した報道

参照したネット反応

タイトルとURLをコピーしました