2026年国際AI安全性報告書、急速な変化と新たなリスクを明らかにする

モントリオール, 2026年2月4日 /PRNewswire/ -- 2026年国際AI安全性報告書が本日発表されました。汎用AIの能力、新たなリスク、リスク管理と保護措置の現状について、科学に基づく最新の評価を国際的に共有するものです。

チューリング賞受賞者のYoshua Bengioが議長を務める国際AI安全性報告書の第2版は、100人を超える国際的な専門家を結集し、EU、OECD、国連を含む30以上の国や国際機関から推薦された専門家で構成される諮問委員会の支援を受けています。報告書の調査結果は、今月末にインドが主催するAIインパクト・サミットでの議論に役立てられる予定です。

本報告書の主なハイライトは以下の通りです：

• 汎用AIの能力は、特に数学、コーディング、自律操作において急速に向上し続けています。2025年には、主要なAIシステムが国際数学オリンピックの問題で金メダル級の成績を達成し、科学ベンチマークでは博士号レベルの専門家の成績を上回り、人間のプログラマーが数時間を要するソフトウェア工学のタスクの一部を自律的にこなせるようになりました。とはいえ、性能には依然としてばらつきがあり、一見単純に見える作業でも失敗する場合があります。
• AIの導入は、世界的にばらつきはあるものの、急速に進んでいます。AIはパーソナルコンピュータのような従来の技術よりも速く導入され、現在では少なくとも7億人が毎週主要なAIシステムを利用しています。人口の半数以上がAIを使用している国もありますが、アフリカ、アジア、ラテンアメリカの大部分では、推定導入率は10%未満にとどまっています。
• ディープフェイクに関する事案は増加の一途をたどっています。AIディープフェイクが詐欺行為に使われるケースが増えています。AIが生成する非合意の親密な画像は、女性や女児に不釣り合いな影響を及ぼしており、こうした事例はますます一般的になっています。たとえば、ある調査によると、人気のある「nudify（ヌード化）」アプリ20件のうち19件が、女性の脱衣シミュレーションに特化していることが分かりました。
• 生物学的不正使用への懸念から、一部の主要モデルにはより強固な保護措置が設けられています。2025年、複数のAI企業が安全対策を強化した新モデルを発表しました。これは、配備前のテストにおいて、システムが初心者による生物兵器開発を実質的に支援する可能性を否定できなかったためです。
• 犯罪者などの悪意ある行為者は、サイバー攻撃において汎用AIを積極的に利用しています。AIシステムは有害なコードを生成し、犯罪者が悪用できるソフトウェアの脆弱性を発見することができます。2025年、AIエージェントが主要なサイバーセキュリティコンテストで上位5%のチームに入りました。アンダーグラウンドのマーケットプレイスでは現在、攻撃に必要なスキルの敷居を下げるパッケージ化されたAIツールが販売されています。
• 多くのセーフガードは改善されつつありますが、現在のリスク管理技術には依然として不完全な点があります。「幻覚（ハルシネーション）」のような特定の種類の失敗はあまり見られなくなりましたが、現在では評価時と配備時のコンテキストを区別し、それに応じて挙動を変えることができるモデルも存在し、評価と安全性テストをめぐる新たな課題を生み出しています。

報告書の議長であるYoshua Bengio（モントリオール大学正教授、LawZero科学ディレクター、Mila - Quebec AI Institute科学顧問）は、次のように述べています：

「1年前に第1回国際AI安全性報告書を発表して以来、私たちはモデル能力の著しい飛躍を目の当たりにしてきましたが、同時にその潜在的なリスクも認識するようになり、技術進歩のペースと効果的なセーフガードを導入する能力とのギャップは依然として重大な課題となっています。本報告書は、すべての人にとって安全で安心かつ有益な未来へとAIを導くために必要な厳密な証拠を、意思決定者に提供することを目的としています。第2版では、フロンティアAIの世界規模での急速な進化について、科学的根拠に基づく共通の理解を更新し、強化しています」

英国のKanishka Narayan AI担当大臣は次のように述べています：

「AIの可能性を最大限に引き出すためには、AIに対する信頼と信用が不可欠です。AIは、より良い公共サービス、新たな雇用機会、そして生活を変えるイノベーションをもたらすテクノロジーです。しかし私たちは、この技術が発展するにつれて、人々の安全を守る決意も固めています。責任あるAIの開発は共通の優先課題であり、私たちが協力してこそ、前向きな変化をもたらす未来を切り開くことができます。この報告書は、まさにその取り組みを支えるものです。世界中から専門家を集め、私たちが今日、より明るく安全な未来への基礎となる正しい決断を下すための、強力な科学的根拠を提供します。」

国際AI安全性報告書について

国際AI安全性報告書は、高度なAIシステムの能力とリスクに関する証拠を統合したものです。意思決定者にエビデンスベースを提供することで、世界的に情報に基づいた政策立案を支援することを目的としています。Yoshua Bengio教授が議長を務め、100人を超える独立した専門家からなる多様なグループによって執筆されたこの報告書は、EU、OECD、国連を含む30以上の国や国際機関から推薦された代表者で構成される専門家諮問委員会に支えられています。AIの計り知れない潜在的な利点を認めつつも、本報告書の焦点は、すべての人のためにAIが安全に開発され使用されるよう、リスクを特定し、緩和策を評価することにあります。この報告書は英国政府の委託により作成され、英国AIセキュリティ研究所内に置かれた事務局が運営をサポートしています。