米食品医薬品局(FDA)は引き続き、人工知能/機械学習(AI/ML)を搭載したプログラム医療機器(software as a medical device：SaMD)等の進化する医療テクノロジーの分野を注視している。2021年１月、FDAはこの分野の規制に関するFDAの今後の対応に関する行動計画（Action Plan ）を発表した。行動計画は正式なガイドラインではないが、対象事項に関するFDAの現在の考えを示すものであり、今後の規制の枠組みの策定にあたってFDAが次にどのような措置を講じるのかを明らかにするのに役に立つ。行動計画はSaMDを中心に取り扱っているが、FDAはその一部を医療機器に組み込まれたソフトウェア（software in a medical device：SiMD)を含む他の医療機器にも適用する予定である。FDAは、最終的な規制の枠組みの策定においては今後も協調的なアプローチを取ることを重視しており、関係者に積極的なフィードバックを行うよう呼びかけている。
行動計画は全体として、FDAが2019年4月に定めた、AI/MLを搭載したSaMDの変更に係る規制の枠組み案（ Proposed Regulatory Framework for Modifications to AI/ML-Based SaMD ）(枠組み案)に基づいている。AI/MLを搭載したSaMDは継続的に学習してそのアルゴリズムを修正するため、SaMDに関するFDAの規制の枠組みのみによってその技術を規制することは実際的ではないと思われる。FDAが到達した原則的なアプローチによると、AI/MLを搭載したSaMDの市販前申請は、FDAにおいて、AI/MLに起因すると予想することができる機器の変化の範囲を、審査及び評価することを可能とし、また、そうした変化がどのようにして予想された範囲にとどまり、かつ制御された方法で生じるかを、審査及び評価することを可能とする。
枠組み案は、AI/MLを搭載したSaMDを規制する、FDAの以下のようなアプローチの方法を示すことによって、その原則的なアプローチを説明している。
- 510(k)、デノボ（De Novo）及び市販前承認（PMA）といった、市場導入前の現行プログラムのプラクティスを活用する。
- FDAの現行のベネフィット・リスク評価の枠組み（benefit-risk framework）、国際医療機器規制当局フォーラム（ International Medical Device Regulators Forum ）が定めたリスク分類原則、及びFDAのソフトウェア修正ガイドライン（ software modifications guidance）に定めるリスク管理原則を活用する。
- FDAのデジタル・ヘルス・ソフトウェア事前認証プログラム（ Digital Health Software Precertification Program.）で構想されている企業ベースでの製品のライフサイクル全体（TPLC）のアプローチを採用する。
- AI/MLを搭載したSaHDの市販前申請に、予定変更統制計画（Predetermined Change Control Plan）を含めることを求める。これは、AI/MLによって行われることが予測される修正の種類（FDAが「SaMD Pre-Specifications」(SPS)と呼んでいるもの）及び、そうした修正を患者のリスクを管理する統制された方法で実施するために利用される関連技術（FDAが「Algorithm Change Protocol」(ACP)と呼んでいるもの）についての記載を含む。
- SaMD製造業者に対しFDAに対する透明性及びSaMD機器の実世界における性能の監視を求め、FDA及び製造業者が、市販前の開発から市販後の性能まで－製品のライフサイクル全体で－SaMDを評価及びモニターできるようにする。
FDAの2021年行動計画はこうしたアプローチに基づいており、以下のように説明されている。
- FDAは、AI/MLを搭載したSaMDを規制する枠組みの策定を継続し、その中には、2021年に予定変更統制計画に関するガイダンス案を発表することも含まれる。こうした取り組みはよりカスタマイズされた枠組みをもたらし、製造業者がAI/ML搭載 SaMDのアルゴリズムの安全性及び効果を裏付けるためにSPS及びACPに含めるべき情報を判断する助けとなる。FDAによる当初の承認後、承認されたSPS及びACPの範囲内で行われる修正は、市販前申請なしで行うことができる可能性がある。
- FDAは、「Good Machine Learning Practice」(GMLP)の国際的協調を推進する取り組みを開始する。GMLPでは、データ管理、特徴抽出、トレーニング、解釈可能性、評価及びドキュメンテーション等の問題に関する一連のAI/MLのベストプラクティスが説明される。FDAは、国際医療機器規制当局フォーラムなどの複数の国際標準化組織と共同で作業を行っている。大半の国がまだAI/MLを搭載した機器に関する枠組みの策定を開始していないことを鑑みると、この分野の規制の調和は時期尚早であるかもしれない。FDAの考え方が国際基準の骨組みとなった場合、米国基準の遵守に投資した開発者は、グローバル市場における自社製品の展開をより容易に行うことができるであろう。
- FDAは、FDAがAI/MLを搭載した機器のラベルに記載するべき情報の種類に関する勧告を作成することを助け、透明性をサポートし、ユーザーの信頼を強化するため公式のワークショップを開催する。透明性は、患者中心アプローチの鍵である。
- FDA は、機械学習アルゴリズムを評価及び改善する方法を開発する規制上の科学的な取り組みをサポートする。この方法は、（例えば、民族、人種及び社会経済的地位に関する）偏見の特定及び排除に関するものや、アルゴリズムの堅固性の評価及び推進に関するものを含む。
- FDAは、どのようにすれば製造業者が実世界のデータの収集及びモニターすることができるかについて多くの質問を受けている。これは、AI/MLを搭載したSaMDの利用、潜在的な改良機会、及び安全性又は利用可能性に関する懸念の緩和を評価する重要なメカニズムである。FDAは、任意の利害関係者及びFDAの他のプログラムと連携して、実世界の性能データをモニターして活用する試験的プログラムを進め、実世界エビデンス生成プログラムがAI/MLを搭載したSaMDにとって、どのようなものになるかについて、さらなる明確性を提供する。
FDAの行動計画は主に審議を目的としたものであるが、FDAは、行動計画のコンセプトの一部をAI/MLを搭載した機器の継続的審査に含める可能性がある。FDAは現在、AI/MLを搭載した商用SaMDに注目しているほか、医薬品の発見及び開発におけるAI/MLを搭載したSaMDの利用など、研究目的の利用への対応に移っていく可能性がある。
枠組み案は引き続き、連邦議会の関心を集めている。直近では、上院の保健、教育、労働及び年金委員会の委員を務めるビル・カシディー上院議員（共和党、ルイジアナ州）が、AI/MLを搭載したSaMDの規制に関する計画、関連日程する及びガイダンス公表のアプローチについて3月中旬までに回答するようFDAに求めた。FDAは計画を進めるにあたっては既にFDAに与えられた権限に依拠すると述べているが、特に510(k)パスウェイに関連して、AI/MLを搭載したSaMDの有効な規制を行うために議会からの追加の付託を必要とする可能性があることを認めている。議会及びFDAは、2022年中にまとめなければならない医療機器ユーザーフィー改訂第5回交渉を利用することによって、相当程度に包括的な枠組みをまとめあげることができる可能性がある。言い換えれば、2021年は、関連を有する利害関係者が最終的なパラダイムの形成に重要な役割を果たす刺激的な時期となりうる。
AI/MLを搭載したSaMDの多くの開発者は、小規模な学術的組織やベンチャー企業の出身である。大手テクノロジー企業に加えて、そうした技術開発者の投資者又はインキュベーターは、適用される規則の制定又は法の制定のプロセスに積極的に関わっていくべきである。