最近、OpenClawというオープンソースの人工知能体が世界の科学技術圏で急速に人気を集めています。この人工知能体は自主的に現実の場面で任務を実行し、ユーザーを代表して行動することができ、人工知能が「対話助手」から「行動助手」に向かって加速していることを示している。しかし、技術の急速な普及に伴い、多くの安全上の危険も集中的に現れ、中国を含めて米国、欧州連合 (eu) 、英国、日本、韓国などの多国籍の監督機関、サイバーセキュリティの専門家、国際機関が次々と警告を発し、行動型のAIセキュリティ対策とリスク予防コントロール行動を開始する。

図はオープンソースAIインテリジェントOpenClaw携帯電話側ページである。新華社発 (イワン撮影)

リスク集中曝露による世界的なセキュリティ警告

「オープンソースの人工知能体分野の典型的な代表として、OpenClawは強力な自然言語対話とタスク実行能力によって、短期間で急速に注目と応用を集めました。しかし、その開放性と高い権限特性は、ネットワークセキュリティ分野でも無視できない焦点となり、一連の解決すべきセキュリティリスクを暴露している。」と言いました中国の人工知能分野の専門家として、浙江大学光華法学院は特別招聘教授の熊明輝さんを募集しています。

彼は「法治日報」の記者のインタビューを受けた時、OpenClawの第三者技能パッケージやライブラリに依存したイメージを攻撃者の「トロイの木馬」に例えた。「悪意のある行為者は、パッケージを改ざんしたり、裏口を移植したり、既知の脆弱性を利用して浸透したりすることで、企業内ネットワークに侵入すると、コアビジネスデータ、知的財産権を盗み、さらには内部システムの制御権を得ることができる企業のデータセキュリティに体系的な脅威となっている。」と言いました

「設備およびシステムレベルのセキュリティ上の脆弱性もまた深刻である。」熊明輝は、複雑な任務を遂行するために、OpenClawは開発と実行時に高いシステム権限を必要とすることが多いと説明した。構成に見落としがあったり、ソフトウェア自体にパッチが適用されていない脆弱性があったりすると、ホストの機密情報 (鍵、構成など) が漏洩する可能性があります。攻撃者はこれを利用して設備をハイジャックし、それをゾンビネットワークに組み込んだり、さらに内部攻撃を開始したりして、企業のインフラの安定と安全を厳重に脅かします。また、個人アシスタントを演じる時、OpenClawがアドレス帳、スケジュール、チャット記録などの大量の機密個人情報を処理する場合、セキュリティ保護の弱点はこれらのデータを盗み、悪用される可能性がある。「さらに危険なのは、金融取引機能を統合した場面で、知能体が破られると、攻撃者は誤った振替、越権照会などの操作を誘導し、直接ユーザーの財産損失を招く可能性があるデジタル経済の信頼基盤を揺るがす。」と言いました

だからこそ、熊明輝はOpenClawを諸刃の剣と見なし、効率革命をもたらすと同時に、多次元の安全挑戦を導入した。

3月8日、中国工業・情報化部のネットワークセキュリティ脅威と脆弱性情報共有プラットフォーム (NVDB) は警告を発表した監視によると、OpenClawオープンソースAIエージェントの一部のインスタンスは、デフォルトまたは不適切な構成で高いセキュリティリスクがあり、ネットワーク攻撃、情報漏洩などのセキュリティ問題を引き起こしやすい。

米国のサイバーセキュリティ企業CrowdStrikeは特別報告で、行動型AIエージェントのセキュリティリスクは伝統的な対話型AIよりはるかに高いと指摘し、ハイジャックされるとユーザーの設備の引き継ぎ、機密情報の盗み、コアデータの改ざんなどの操作を直接完了し、個人のプライバシー、企業のビジネス機密、公共機関の情報をカバーすることができる。日本、韓国の多くの大手企業及び金融機関が緊急に通知を出し、事務設備のOpenClaw設置を全面的に禁止し、核心業務のデータ漏洩を厳重に防ぐ。英国情報専門家のオフィスもリスクのヒントを発表し、公共サービス機関に行動型AIツールを慎重に使用して、市民のプライバシー情報が不正に盗まれないように注意した。

多くの人が協力して立体安全防護網を構築する。

OpenClawがもたらしたシステム的な安全リスクに直面して、多国籍政府、科学技術企業、安全機構はすでに緊急安全防護システムを構築している。

アメリカ連邦通信委員会、連邦貿易委員会は共同で臨時監督規範を発表し、OpenClawなどの行動型AIに権限の最小化、操作の遡及、ハイリスク行為の人工審査の三つの核心要求を厳格に実行するよう要求しています。Euは正式にOpenClawをハイリスクAIレギュレーションのカテゴリーに組み入れ、データコンプライアンスとプライバシー保護要件を強化しています。韓国、カナダ、オーストラリアなどの国は迅速にフォローアップし、目的に合った使用ガイドラインと安全規範を発表した。中国のネット通信、工信などの部門は同時にオープンソースAI安全評価ガイドラインを完備し、サプライチェーンの安全監督管理を強化し、開発者と利用者の二重安全責任を固めている。

「人工知能の応用の波の中で、安全、制御、信頼できる基礎を守るために、多段階防護システムを構築する必要がある」熊明輝は、このような防護体系を「四次元」の防衛線と総称している。第一の防衛ラインは、セキュリティ設定と権限管理に重点を置いています。「最小権限」の原則を貫徹し、AIエージェントがタスクを完了するために必要な最小データセットと操作権限にのみアクセスできるようにする。第二の防衛線は、サプライチェーンの安全保障に取り組んでいます。AIの生態は開放性があり、第三者の技能パッケージ、プラグインの導入は潜在的な攻撃面を拡大した。厳格な審査メカニズムを確立し、導入したコンポーネントに対して全方位的な安全審査を実施し、ソースの信頼性、コードの透明性を確保する必要がある。第三の防衛ラインは、監督およびコンプライアンス体制の整備に依拠する。業界は統一された安全基準と行動規範を明確にし、開発者と利用者に明確な指導を提供しなければならない。金融、エネルギーなどの重要な分野で、企業は厳格な内部コンプライアンスフレームワークを確立し、AIアプリケーションがデータセキュリティとプライバシー保護に関する法律法規を満たし、コンプライアンス要求を企業運営の全プロセスに組み込むことを保証しなければならない。第四の防衛ラインは、最先端技術と人的要素を融合させています。継続的な安全訓練と明確なリスク告知を通じて、参加者の安全意識と操作能力を高め、安全文化をAIライフサイクルの各環節に浸透させる。

「人工知能の安全対策には世界的な視野が必要だ。各国は協力を強化し、国際的な安全基準と監督管理の枠組みを共同で制定し、脅威情報の共有メカニズムを確立し、ネットリスクに協力して対応しなければならない。「技術防護、管理規範、コンプライアンス制約、ユーザー教育、グローバルコラボレーション」の5つの一体的な奥行き防御システムを構築してこそ、AI革新配当を享受すると同時に発展の安全な最低ラインを守る。」と言いました熊明輝は言った。

国際的な共通認識を結集して長期的な安全システムを構築する

OpenClawの世界的な人気は、人工知能が正式に行動時代に入り、技術発展の潜在力が大きいことを示しているが、安全の基礎は突破できない。長期的な管理システムを構築してこそ、安全、制御、信頼できる発展の基礎を真に守ることができる。現在、多国籍政府、国際組織、科学技術界はすでに明確な声を出しており、行動型AIの安全発展のために経路を定めている。

ユネスコは「2026国際人工知能安全報告」を発表し、多国籍界の行動型AI安全ベースラインを確立し、監督相互認識と標準協力を推進した。国際標準化機構、国際電気工委員会は共同でISO/IEC27090特別基準を推進し、年内に正式に発表します。Euは「AI法案」の関連細則を継続的に完備し、行動型AIの全ライフサイクル監督管理を強化すると表明した米国は行動型AI安全認証システムの構築を提案し、認証に合格していない製品は公衆に販売してはならないわが国はオープンソースのサプライチェーンの安全基準の着地を加速し、開発者、プラットフォーム、ユーザーの三者の責任を明確にし、透過的な責任追及メカニズムを確立し、グローバル制度の監督管理は次第に統一と規範に向かっている。

国際協力では、国連は何度も共同声明を発表し、各国に行動型AI安全協力を強化し、AIを利用して実施したサイバー犯罪、データ盗難、スパイ活動を共同で取り締まるよう呼びかけた。G7はbrics国家と常態化安全コミュニケーションメカニズムを確立し、国境を越えた共同緊急訓練を展開し、共同処置能力を高める。わが国はグローバルAI管理ルールの制定に積極的に参与し、多角的で透明な管理システムの形成を推進し、グローバル行動型AI安全発展に中国案と中国知恵を貢献している。世界の多国籍専門家は、行動型AIは倫理的な基礎を守り、受け入れられないリスクリストを画定し、人類が常に最終的なコントロール権を把握し、技術発展を常に人類共通の利益にサービスしなければならないと呼びかけている。

技術の人気からリスク警告まで、緊急対応から長期的な対策まで、OpenClawが引き起こした世界的な関心は、人工知能が行動時代に入るチャンスと挑戦を深く解釈した。国際社会は一致した態度で、安全は人工知能革新発展の前提と基礎であると表明した。各国が手を携えて協力し、政治企業が協力し、全国民が参加し、安全の最低ラインを厳守し、管理システムを充実させ、国際的な共通認識を凝集させてこそ、本格的に行動型AI安全防御ラインを構築することができる。