Open AI for countries　OpenAIの考える人工知能と民主主義

2025年5月28日

URLをコピーしました！

1.はじめに

今回はOpenAI社の声明「Introducing OpenAI for Countries」について紹介する。同声明ではOpenAIが現在開発中で、将来的に国家向けのインフラとして提供することを目指している「OpenAI for Countries」についての説明がなされている。本記事ではその要諦を紹介し、また国家にAIインフラを導入する上で重要である「AIが守るべき規範」を設定するための民主的な手続きについて、OpenAIがどのように捉え、検討を行ってきたかについても紹介する。

2.Introducing OpenAI for Countries

OpenAIは2025年5月、「国家のためのOpenAI導入について」と題した声明を発表した。OpenAIは、米国で進行中の大規模AIインフラ投資「スターゲート・プロジェクト」を世界各国にも展開するため、「OpenAI for Countries」イニシアチブを立ち上げたとしている。声明によれば、これは各国のニーズに合ったAIインフラを構築し、経済成長と民主的価値の両立を支援するものである。具体的には、安全でプライバシーに配慮した国内データセンターの整備、言語や文化にローカライズされたChatGPTの提供、AIモデルの安全性強化などが例として挙げられている。OpenAIは、こうした技術支援を通じて、AIを支配や権威の道具とするのではなく、市民の自由と選択を守る「民主的なAI」の普及を目指していると声明で述べている。また、現地資本との協力により、雇用創出や地域産業の発展を促進し、持続可能なAIエコシステムを各国で育成することも目標としている。この取り組みは、OpenAIが米国政府と連携しながらAIのグローバルなリーダーシップと民主的ネットワークの構築を進めるものであるとし、第１段階として10の国・地域とのプロジェクトを開始し、今後さらに拡大していく計画となっている。

※スターゲート・プロジェクト：2025年1月にOpenAIとトランプ大統領、オラクル、ソフトバンクが発表した、アメリカのAIインフラへの大規模投資

3.AIへの民主的な介入

OpenAIが前述のようなプログラムを推進するようになったきっかけの1つとして、同社が2023年から2024年にかけて行っていた「AIに対する民主的な規範インプットのための助成プログラム」が挙げられる。これは、AIが今後守る必要の出てくる規範について、民主的な手法を用いて設計・構築・テストすることを目的として世界各国の研究グループからアイデアを募集し、高く評価されたアイデアに助成を行ったものである。同プログラムには最終的に1000を超える応募が集まり、最終的に選定された10のグループに助成が行われた。本プログラムの募集にあたって、OpenAIは、AIは社会全体に影響を与える存在であり、そのガバナンスは多様な視点を反映すべきだと強調している。また、民主主義のあり方について、同社は「広く代表的な人々のグループが意見を交換し、熟議を行い、最終的に透明性のある意思決定プロセスを経て結果を決定するプロセス」と定義している。プログラムのレポートでは、今後AIが進化するにつれて、人類の価値観により合致したモデルを構築するために、AIがどのように振る舞うべきかを決定する際に一般市民を参加させることが不可欠であると述べられており、デジタルデバイドを超えた多様な参加者の確保、多様な視点を代表する首尾一貫したアウトプットの作成、一般市民から信頼される十分な透明性を備えたプロセスの設計などの課題が設定されている。本項ではその概要と結論について一部を紹介する。

3.1選定されたプログラム（抜粋）
・AIポリシーのための判例形成(Case Law for AI Policy)
代表者：Quan Ze (Jim) Chen, University of Washington
AIの振る舞いに関する判例的判断を民主的に形成するために、専門家・市民・関係者がAIとの事例を評価し、蓄積された判断をAIに学習させることで、複雑な状況に対する出力の指針とする。

・民主的政策開発のための対話(Collective Dialogues for Democratic Policy Development)
代表者：Andrew Konya
AIを活用した市民対話により、幅広い意見と合意点を引き出し、民主的で代表性のある政策を作成する。政策課題に対し、代表的な市民と対話を行い、共通の視点を特定し、LLMで政策案を生成したのち、専門家と市民の意見を反映して修正し、最終的に多数の市民の支持を評価するように調整する。

・生成型の合意形成モデル(Generative Social Choice)
代表者：Sara Fish, Harvard University, Simons Laufer Mathematical Sciences Institute
多数の自由記述意見を、公平性を保ちながら主要な視点ごとに要約することを目的としている。社会的選択理論に基づくアルゴリズムとAIを用いて、意見群から代表的な文を抽出し、参加者の評価を通じて要約の正確性を検証することで、最終的に全体を代表するステートメント集を作成する。

・AIに関する民主的な意思決定への、十分なサービスを受けていない人々の参加(Inclusive.AI: Engaging Underserved Populations in Democratic Decision-Making on AI)
代表者：Tanusree Sharma, University of Illinois at Urbana-Champaign
分散型ガバナンス（例：DAO）を活用し、社会的に疎外された集団のAIに関する意思決定参加を促進することを目標とする。AIチャットボットによる価値観の対話からグループ討議、異なる投票方法を用いたガバナンス投票までを通じて、民主的で代表性のある合意形成を行う。

3.2助成プログラムから得られた結論
それぞれのグループから得られた課題として、レポートでは以下の点を挙げている。
・世論は頻繁に変化する
・デジタルデバイドが結果を歪める
・両局化したグループ同士で一致点を探すことは非常に困難である
・合意形成と多様性の包摂はしばしば緊張関係を生み出す
・多くの人がAIガバナンスへの期待と不安を感じている
一方で、資金が提供されたプログラムの中には、これらの課題を解消し、AIを用いた合意形成の有用性を証明したグループや、AIに対する参加者の懸念を払拭したグループも見られたことが述べられている。

4.OpenAIの推進する民主的AI

これらを踏まえ、OpenAIがOpenAI for Countriesを展開していく上で重視していることについても、冒頭の声明で触れられている。
・グローバルリーダーシップの拡大と維持
これらの助成プログラムやスターゲイトプロジェクトを通じて構築した民主的AIを推進するため、国際的な連携を強化し、AIインフラの世界最先端を維持する。
・多層的なモデルセキュリティ
さまざまな国向けに調整されるそれぞれのAIモデルを、情報セキュリティ、ガバナンス、物理的インフラにまたがる厳格で進化するセキュリティフレームワークによって管理し、最先端の保護技術を適用する。
・厳格な人事監視
情報システム、知的財産、モデルにアクセスできる全ての人員に対して、明確かつ継続的な監視を維持し、悪意ある操作や誤情報の流入を防ぐ
・展開前のリスク評価
各国向けに提供されるAIは展開前にリスク評価を受け、特定の環境に適さないリスクがある場合は、配備を見送るなどの対応を行う。
これらの取り組みにより、民主的価値観に基づくAIの発展と安全な展開を目指すとOpenAIは述べている。

5.出典

OpenAI “AI への民主的な介入” (更新日：2023年5月25日)(閲覧日：2025/05/23)
https://openai.com/ja-JP/index/democratic-inputs-to-ai/

OpenAI “Democratic inputs to AI grant program: lessons learned and implementation plans” (更新日：2024年1月16日)(閲覧日：2025/05/23)
https://openai.com/index/democratic-inputs-to-ai-grant-program-update/

OpenAI “Introducing OpenAI for Countries” (更新日：2025年5月7日)(閲覧日：2025/05/23)
https://openai.com/global-affairs/openai-for-countries/

OpenAI “OpenAI for Countries: Our Approach to Security” (更新日：2025年5月17日)(閲覧日：2025/05/23)
https://cdn.openai.com/global-affairs/ff86ec36-1741-40a0-ab2a-d46f8eec62a8/openai-for-countries-our-approach-to-security.pdf