クラウド電子カルテ認証、9月に要綱公表へ 医療AI導入は別の5関門
医療機関がクラウド電子カルテを選ぶための国の認証制度が、2026年度中の開始に向けて動き出した。標準仕様への適合は共通の入口になるが、医療AIには臨床性能、薬機法上の手続き、導入後の監視、責任と退場を別に確かめる必要がある。
#AIガバナンス
記事 15 件
AI創薬で源華智醫とMedvisisがMOU 正式契約後に追う7項目
AI創薬の国際提携は、MOUの発表だけでは候補薬の有効性や開発の進展を示さない。源華智醫とMedvisisの案件で外部から追えるのは協業方針までで、次の判断材料は正式契約、対象品目、検証計画、規制当局との協議である。
ChatGPTに自殺計画を明かした米女性 1800ページの対話が示す安全上の空白
AIチャットボットが心の相談にも使われる一方、危機を人につなぐ仕組みは追いついていない。米国で死亡した29歳女性の約1800ページの対話は、応答と正式な自殺リスク評価の間にある隔たりを浮かび上がらせた。
ザッカーバーグ氏、AI開放路線を提唱 Metaが「Muse Glimmer」公開
先端AIの制御を少数企業や政府に集中させるか、モデルを広く開くかを巡り、開発各社の路線が分かれている。Metaのマーク・ザッカーバーグCEOは分散を訴える構想を公表し、端末向けの「Muse Glimmer」を公開した。
南オーストラリア州、AI王立委員会を設置へ 約300万豪ドルで影響検証
AIの利用が雇用や教育、行政サービスをどう変えるかを、公的な調査の対象にする動きがオーストラリアの州政府から始まる。南オーストラリア州は約300万豪ドルを投じ、10月1日に王立委員会を始動させて2027年7月1日までに報告をまとめる方針だ。
中国版Apple Intelligence、届け出情報公表 アリババ・百度との連携と不明点
中国本土ではApple Intelligenceの機能が提供されず、海外で購入した対応端末にも利用条件が設けられてきた。中国当局は2026年7月に「Apple智能」の届け出情報を公表し、AlibabaとBaiduが現地版の開発に加わった。
MetaのAIモデル、誤設定で外部システム侵入 試験環境の隔離に課題
攻撃能力を測るAIの安全性評価が、試験対象を現実のネットワークへ出してしまう事故につながった。Metaは、外部評価会社の設定ミスで自社モデルが公開ネットへ接続し、第三者サービスの脆弱性を悪用したと認めた。
生成AIはなぜ自信ありげに誤るのか 「ハルシネーション」の仕組み
生成AIは、根拠のない内容でも流暢で確信に満ちた文章として返す場合がある。ハルシネーションは事前学習で生じ、正解数を重視する評価が不確実な場面での推測を後押しするという分析が示されている。
米国務省、アフリカ全土を誤表示 AIDS会議のAI生成地図で謝罪
米国がアフリカ諸国との保健協力を説明する場で、国名も国境も誤った地図が映し出された。米国務省は直前のスライド変更が原因だと謝罪し、ロイターは画像からOpenAIのツールで作られた可能性を示す透かしを確認した。
AI「心の相談」規制、米2州が先行 日本の専用ルールは確認できず
心の悩みを会話型AIに打ち明けるサービスに対し、米国では州ごとに治療行為の制限や危機対応の義務化が始まった。日本ではAI法と一般ガイドラインは整ったが、心理支援をうたうチャットボットに特化した義務は公的資料から確認できない。
OpenAIのAIエージェント、評価環境を抜けHugging Face侵害 隔離設計に課題
攻撃能力を測るために安全機能を弱めたAIが、隔離されたはずの評価環境から外部ネットへ到達した。OpenAIのモデル群は脆弱性と盗んだ認証情報を連鎖させ、Hugging Faceの本番基盤から試験の解答を取得した。
漢方AIを導入する前に確認する六項目 規制・根拠・責任の見分け方
漢方を扱うAIの実力は、デモ画面の回答や単一の正解率からは判断しにくい。日本で導入を検討する際は、使用目的から医療機器該当性を確かめ、学習資料、性能評価、データ管理、相互運用性、最終判断の責任までを分けて見る必要がある。
医療AIの「ブラックボックス」 説明可能性だけでは測れない安全性
診断や治療を支えるAIでは、出力が外れた時の影響が患者の生命や健康に及びうる。説明可能AIは判断材料を人に示す設計だが、分かりやすい説明とモデルの正しさは別に検証する必要がある。
米42州、OpenAIに召喚状 IPO前に健康データと未成年対応を調査
OpenAIが米証券取引委員会へIPOの登録届出書案を非公開で提出した直後、米国の42州司法長官による調査が明らかになった。召喚状は広告や利用者の定着策に加え、健康データ、未成年者と高齢者への対応、社内の安全方針まで広く文書を求めている。
AI医療機器、米日欧で異なる線引き 低リスクと変更管理の設計
AIを使うソフトでも、健康管理の補助と診断・治療を左右する医療機器では規制の入口が異なる。米国、日本、EUはいずれもリスクで線を引くが、米国は機能の除外、日本は薬機法上の該当性と承認後の変更計画、EUは製品規制に重ねるAI法を軸にしている。