醫療器械創新網
2019年7月，為構建開放協同共享的人工智能醫療器械創新網體系，推進人工智能醫療器械審評審批，人工智能醫療器械創新網合作平臺應運而生。半年光景，人工智能醫療器械創新網合作平臺已經做出了一系列成績。
?
在2019年的尾巴，由人工智能醫療器械創新網合作平臺、中國信息通信研究院主辦，國家藥監醫療器械技術審評中心支持，海南省藥品監督管理局、海南博鰲樂城國際醫療旅游先行區管理局、博鰲生態軟件園承辦的“2019年人工智能醫療器械創新網大會暨人工智能醫療器械創新網合作平臺工作會議”在海南博鰲成功召開。
?
人工智能醫療器械創新網合作平臺眾多工作組管理人員齊聚于此，紛紛分享了所在工作組的工作推進情況，并對2020年的相關工作提出展望。
?
在此，動脈網記者對會議的部分內容進行了梳理，嘗試幫助醫療AI從業人員理清藥監局審評審批近半年來的方向與進展，以及審評審批中出現的各類問題。
?
創新平臺整體結構不變，新增兩個工作組
12月27日晚，創新合作平臺管理委員會召開會議并通過了以下決議：
?
1. 修訂《人工智能醫療器械創新網合作平臺標準操作規范》；
2. 討論通過《人工智能醫療器械創新網合作平臺成員單位管理辦法》、《人工智能醫療器械創新網合作平臺登記單位管理辦法》；
3. 討論通過新工作組成立方案。
?
相比于7月公布的組織結構，我們可以看到人工智能醫療器械創新網合作平臺新增了醫療數據應用技術研究組、醫學人工智能名詞術語規范化工作組兩個全新工作組。
?
值得注意的是人工智能醫療器械創新網合作平臺副秘書長張雪麗提到的成員單位制度與登記單位制度，她表示：“在能夠遵守平臺義務及管理辦法的前提下，機構可與器審中心簽訂合作協議成為成員單位。
成員單位所享受的權益包括推進管理委員會的委員；申請成立工作組；并可根據自身能力加入相關工作；參與平臺相關活動；能夠對平臺提出意見與建議。
?
凡是中華人民共和國境內注冊的醫療單位科研院所社會團體，可以在創新平臺上登記相關信息，說明自身技術、特點、資源優勢以及可以承擔的工作方向，平臺秘書處會對信息進行審核并給予反饋，審核通過后可備案成為平臺的登記單位。
?
此外，登記單位如果收到了工作組的邀請，可以參與相應工作，也可以申請參加研究項目，并獲得指定公開資料?！?/span>
?
由此可見，無論是醫院，大學，還是醫學人工智能企業，能夠加入創新平臺必然會對機構本身的AI研究工作產生一定的積極影響；人工智能醫療器械創新網合作平臺同樣非常歡迎各界組織能夠參與醫學人工智能的研究。
?
數據安全、標準規劃……眾多工作組在AI審評審批推進中都發揮了怎樣的作用？
在本次會議中，技術法規、數據治理、測評數據庫等10個工作組均參與了工作匯報，動脈網挑選了7個與醫學人工智能產業發展最為相關的組別進行介紹。
?
1、技術法規與標準化研究
技術法規組的工作主要為研究人工智能醫療器械全生命周期監管的政策、法規和方法以及研究利用人工智能技術實現醫療器械科學監管的方法，國家藥監局器審中心審評一部副部長彭亮表示，該工作組基本思路包括三點，而也正是這三點思路指導了人工智能醫療器械審評思路制定。
?
一、關于人工智能醫療器械審評指導原則體系構建問題，該組希望可以構建一個體系，引導企業做好產品申報工作，并對整個行業的發展提供技術支持。
?
二、深入探索分布式的人工智能醫療器械測評數據庫的建庫模式，該模式是現行狀態下最優的模式。
?
?
三、人工智能醫療器械測評數據庫采用條件評價：國家各部委、醫療各機構都在相關數據庫的建設，但什么樣的數據庫可以作為測評數據庫？這是一個值得思考的問題。所以，技術法規工作組需要制定相關采用條件，用以評價相關的數據庫，把部分正在建設的數據庫納入測評數據庫體系范圍。同時這些數據庫需要動態管理，保證數據庫的相關條件能夠持續保證用于人工智能醫療器械的確認。
?
目前，審評指導原則體系中的“深度學習輔助決策軟件審評要點”、“醫療器械生產質量管理規范附錄獨立軟件”等項目已經建設完畢，“人因與可用性”等部分仍在制定之中。
?
2、測評數據庫建設
測評數據庫建設工作組以上海申康醫院發展中心為主牽頭，301醫院、協和醫院、華西醫院等單位共同承擔工作組的推進工作，結合人工智能器械產品特點，工作組將緊緊圍繞目前存在的數據治理、標準體系、測評技術、臨床評價等熱點和焦點工作，整合醫療機構的臨床資源與數據資源，重點研究跨地區、跨機構、多模態的測評數據治理關鍵技術，深入開展多院區、多異構、多模態的測評數據庫構建管理技術以及測評數據庫安全開放技術的研發，建設符合人工智能醫療器械創新網合作平臺建設所需的測試數據庫。
?
在2019年工作中，申康中心的工作仍以AI測試數據庫的準備為主，其他工作包括推動智能影像在上海落地；技術研發基于人工智能的醫療數據創新應用平臺；構建?？坡撁酥行慕M織架構，打造?？坡撁酥行南碌膶２⊙芯恐行?；建設人工智能區域醫學影像協作共享平臺；并參與了相關人工智能應用的研發及測評技術的論證。
?
在即將到來的2020年中，申康中心將以研究和建成“人工智能+醫學影像類系統的審評技術及專業數據庫”，提升精準審評和質量監督能級水平為目標。具體工作將分為三大部分。
?
1. 完善人工智能測評數據庫的體系框架。從測評數據的標準化采集、數據標注、治理質控和安全共享等關鍵技術方面完善測評數據庫體系框架，形成針對性的質控要求。
2. 開展多院區、多異構、多模態的個性化構建管理技術的研究。
3. 醫療人工智能測評數據庫的采集工作，數據涵蓋CT肺結節、眼底、心臟MRI、冠狀動脈CTA、心電、CT骨折、腦MRI、CT肝等病種領域信息，進一步優化覆蓋電子病歷、醫學影像、電生理信號等8種數據類型的醫療測試樣本數據。
?
3、真實世界工作組匯報
中國醫學科學院北京協和醫院主任醫生于偉泓作為代表在本次會上談到了眼科AI工作進展與2020年真實世界數據應用工作組的工作計劃。
?
2019年，工作組建立了“中國糖尿病視網膜病變人工智能眼底圖像標準數據庫的建立”，已完成2萬張糖網眼底圖像的收集、整理，正在順利標注；與體素科技、致遠慧圖、至真互聯三家企業開展了3項眼科糖網AI產品臨床實驗，包括兩項回顧性研究和一項前瞻性研究；啟動北京科委“主要致盲性眼底的人工智能輔助篩查系統研究”課題；成立“中國眼科真實世界AI研究聯盟”，并擬定眼底彩照數據標注與質量控制專家共識。
?
2020年，該工作組將全面推進組內各單位多學科的真實世界研究工作；特別關注醫學倫理審批、知情同意執行、數據去隱私化、合作單位數據轉讓相關協議簽署等管錢流程；關注AI產品的臨床試驗，總結實驗中遇到的問題及相關對策，形成專家意見，提交平臺參考討論；最后啟動不同學科的醫療數據標注與質量控制專家共識草案。
?
4、臨床評價工作組匯報
2019年12月，《真實世界數據用于醫療器械臨床評價技術知道原則》開始向外征集意見。
?
明年，該組將在《深度學習輔助決策醫療器械軟件審評要點》的基礎上，擬針對當前申報集中的產品，編制糖尿病視網膜病變深度學習輔助決策軟件等代表性產品臨床評價技術指導原則；并調研行業需求，以問題為導向開展科學研究和成果轉化。
?
5、檢測技術研究
以中國信通院為組長單位的測試技術研究工作組，嘗試探索建立醫療人工智能性能公共測試的平臺。
?
現階段下，人工智能醫療器械產業化測評技術難題主要發生在產品上市前過程中的技術檢測與上市后的軟件更新兩個方向。為解決這些問題，相關項目將在近兩年內逐漸開展。
?
如今，測試技術研究工作組已經啟動“醫療器械軟件質量測試”與“醫療器械網絡安全測試”工作，借助于這些經驗，測試技術研究工作組將盡快完成“醫療AI產品性能測試”的籌備工作。
?
6、網絡安全
國家互聯網應急中心研究二室(新業務研究室)?副處長鄒瀟湘在會上進行了數據安全相關的主題演講，他表示：“在器審中心的指導下，根據CMDE《醫療器械網絡安全注冊技術審查指導原則》、FDA《醫療設備網絡安全管理上市前指導原則》等文件，依托網信辦安全中心技術支持，我們已完成了醫用X射線影像設備網絡安全的標準編制、用例設計和測試驗證等工作。”這些工作包括：
?
1. 制定20個網絡安全標準測試用例；
2. 對8家國內外主流廠商的15款產品開展安全測評；
3. 出具15份安全測評報告。
?
所以，要保護醫療數據，必須從端（終端）、管（網絡）、云（平臺）三個方面共同發力。
?
以智慧醫療云、基因云為例，這一平臺在將封閉孤立的醫療機構推向開放互聯的同時，也承擔著更為嚴峻的安全考驗。
?
對此，鄒瀟湘提出了三點建議：
?
1. 研究面向生物醫療設備的網絡安全檢測技術和可操作的測評規范及方法，制定網絡安全標準和規范，加快構建網絡安全測評技術體系。
2.?對于重要系統與關鍵設備，應實施例行的入網安全檢查認證和網絡安全審查，以全面掌握其安全情況
3. 依托國家漏洞信息共享平臺，建立生物醫療行業網絡安全威脅情況庫，匯集行業安全事件庫、漏洞庫、聯網設備信息庫等。
?
在即將到來的2020年，網絡安全工作組將完善人工智能醫學軟件網絡安全測評方法研究；開展人工智能醫學軟件網絡安全檢定規程研究；開展人工智能醫學軟件網絡安全漏洞共享平臺研究。
?
此外，關于人工智能的人才培養也在籌備之中；而即將成立的醫療數據應用技術工作組則希望在人工智能建設中起到“花盆”這樣的容器作用，為我國衛生健康、醫療器械的發展戰略和科學監管提供指南與方法，目前正著手于基礎研究方面問題（心電圖數據庫、多參數數據庫缺失；ICU、CCU等海量數據管理難題）、產品應用技術和安全有效性評價方面問題（重癥患者檢測設備過度警報等）、臨床應用技術方面問題（急性重癥缺乏預警及管理問題）。以更好的進行AI產品上市前監管與上市后監管。
??
各工作組不完全資料匯總
AI類創新醫療器械特別審查的經驗與建議
本次會議談到的另外一個重點是AI類創新醫療器械特別審查工作。器審中心數據顯示，在2018年進行創新醫療器械特別審查程序修訂后，申請量大幅下降，由2018年的316項，降低為2019年的190余項，但審查通過量變化不大，審查通過率從14.2%提升至21.2%，程序修訂后帶來的正面效應明顯，審查質量與效率大幅提升。
在醫學人工智能領域，器審中心共收到創新醫療器械特別審查申請21項（涉及15個產品），完成17項審查，通過3項（眼科2項，心內科1項），通過率目前僅為17.6%，可能與目前申請人申報經驗不足、對法規理解不到位有關。
?
在會議之上，國家藥監局器審中心綜合業務部副部長賈健雄強調需同時滿足知識產權、基本定型和國內首創且具有顯著臨床使用價值三方面要求才認為符合創新醫療器械審查條件，并詳細介紹了企業在創新醫療器械器械特別審查過程中的注意事項及易于出現的問題。
動脈網將賈健雄副部長的觀點其梳理如下：
?
1.?創新醫療器械審查條件
申請產品必須在中國依法擁有核心技術發明專利權，或依法通過受讓取得在中國發明專利權或使用權；或者核心技術發明專利的申請已由國務院專利行政部分公開；必須具有基本定型產品，不能是實驗室產品，且研究過程真實、受控；研究數據可追溯。此外，產品的主要工作原理或作用機理為國內首創，且具有顯著的臨床價值。創新審查并非要企業為了創新而去創新，產品創新一定要真正解決臨床存在的問題。
?
2.?創新審查與技術審評的差別
相對于注冊過程中的技術審評，創新申請審查采用了專家審查制，聚焦于創新及臨床應用價值，具有更大的專家選取范圍，且無補充資料途徑。
?
3.?申請、初審步驟中的常見問題
提交創新申請前，企業需申領CA，通過電子申報系統提交資料。資料需按照相關編寫指南準備。境內申請人需提交經申請人所在省級監管部門初審后蓋章的申請表或相關文件。特別需要注意的是，申請人在填寫申請表時需如實填寫利益相關方的專家/單位的信息，且明確回避的專家及理由，若沒有利益相關專家，一定要注明。
?
4.?受理、審查、結論步驟中的常見問題
中心對參與創新審查的專家組成員啟用了盲選機制，通過后臺計算機與專家自動聯系會議有關事項，相關工作人員于會前無法獲知參會專家具體名單。同時，中心還試點運行了專家會視頻審查機制，申請人可通過視頻陳述產品的創新點、臨床應用價值和對前次審查所提出問題的解決情況等內容。陳述環節一般控制在10分鐘內，需申請人注意掌握節奏。
最后，賈健雄副部長給出了四點建議：
?
1. 注重醫工結合，關注臨床需求，需多方了解情況，確認產品的確具有創新性，且有效解決了臨床問題；
2. 注重申報資料質量，提供充分的支持性數據；
3. 找準創新點，且能夠證明產品具有顯著的臨床應用價值；
4. 選擇可以合理的申請時間，不能在產品未基本定型前就過早提交。
?
人工智能醫療器械注冊申報常見問題解析
上文談到的是創新醫療器械特別審查中遇到的常見問題，需要注意的是，企業產品成為創新醫療器械后，能享受早期介入、專人負責、優先辦理、小微企業首次注冊費用減免等政策，但后續評審標準不會較低，程序不會減少。所以，企業還需在關注常規注冊申報的相關要求。
?
對于AI器械審評之中的常見問題，動脈網將彭亮副部長部分觀點整理如下：
?
深度學習輔助決策軟件審評要點
1. 輔助決策與非輔助決策的差別在于輔助決策相當于醫生的助手，而非輔助決策是醫生所用的工具；前處理、流程優化、常規后處理、輔助決策在產品層面存進交叉情況，具體情況需要結合產品的預期用途、使用場景和核心功能進行考慮。
2. 深度學習技術與傳統AI技術的差異主要在數據集規模與特征提取兩方面。傳統AI對數據量的要求沒有那么大，特征提取是一個白盒過程，而深度學習對于數據量要求很高，而且是一個端到端的黑盒過程，自動完成特征提取。這也意味著，深度學習對數據庫的考量會更加細致，企業需要重點考慮可解釋性問題；
3. 從臨床需求角度，產品需同時考慮假陰假陽指標，僅用準確度一個指標不足以滿足臨床需要；
4. 第三方數據庫測試非必須，企業可以用自己的數據庫測試；
5. 沒有要求提交軟件設計規范，審評審批不會涉及到具體參數，不涉及企業商業秘密與技術秘密；
6. 申報方需對產品的擅長范圍、不擅長范圍進行描述，需在說明書中寫明必要的提示信息、輸入、輸出、限制條件、產品禁忌、算法訓練、算法性能評估、臨床評價的總結信息等。申報資料不能流于形式；
7. 考慮擴增過程中的數據偏移問題，進行擴增倍數過大的影像分析；繪制訓練數據量-評估指標曲線，重點進行算法性能影像因素分析以及進行數據多樣性分析。
?
軟件審評指導原則
8. 提供體系結構圖、用戶界面關系圖、物理拓撲圖；
9. 給出判斷理由充分的軟件安全性級別；明確風險劃分，不能把一切風險遞交給醫生；
10. 軟件版本命名規則需考慮合規性、完整性等要求，同時遵循風險從高原則；
11.從采購角度理解現成軟件的質控要求；
12. 產品檢測報告需提供軟件版本界面圖片。
網絡安全與移動醫療審評指導原則
13. 保證信息安全、網絡安全、數據安全；
14. 網絡安全的常見問題包括：基本信息未圍繞數據類型進行描述；未基于19項網絡安全能力進行風險管理、驗證與確認、對某些網絡安全能力的理解存在偏差；驗證與確認未提供可追溯性分析報告；維護計劃為提供網絡安全事件應急相應預案；
15. 審評審批涵蓋移動計算與云計算；云計算服務視為現成軟件；云服務商視為供應商而非生產企業；云計算服協議應考慮數據安全、患者隱私保護等問題；
16. 數據跨境應當符合網絡安全法相關要求。
?
GMP獨立軟件附錄
17.關注軟件版本命名規則；
18.全部軟件均要求開展可追溯性分析；
19.建立網絡安全事件應急響應流程；
20.考慮軟件停運后的數據安全保障措施，很多網絡安全事件由廢棄醫療器械引發，需考慮在軟件停運后如何保證患者隱私信息不被泄露等問題。
?
參會企業工作匯報
除了人工智能醫療器械創新網合作平臺的諸多部門專家進行演講外，29日的小型研討會上還邀請到了樂普醫療、硅基智能、數坤科技、推想科技四家AI企業到場進行經驗分享。
?
硅基智能副總經理賴銘則分享了基于人工智能的糖尿病視網膜病變分析軟件創新醫療器械申報實踐，他認為在創新醫療器械審評審批中，國家藥監局主要關注三個方面：
第一，算法核心專利要明確證明用在公司的產品中，要把算法的核心技術闡述清楚，是如何應用在產品中的。
第二，產品定型，把標準數據的來源說清楚，從量化、溯源的角度把事情解釋清楚。
第三，臨床顯著應用的價值，要有真實世界的臨床數據來證明產品確實能夠解決臨床上的問題，并提供給監管部門。企業應該重點對以上項目進行重點研究。
?
樂普醫療AI事業部副總經理劉暢則分享了樂普醫療 AI-ECG 在 FDA 的注冊經驗，他認為兩大部分的條件必須履行的。分別是進行符合型評價與建立質量管理體系。
?
作為ITU&WHO AL4H焦點組心血管風險評估組的牽頭人，數坤科技郭寧對數坤科技的現狀做了簡單的介紹。
數坤科技的AI技術在心腦血管與腫瘤診斷場景中優勢顯著。數坤科技與北京友誼醫院聯合開展的多中心臨床研究覆蓋了全國25省42家三甲醫院收集數據，一共收集1064例完整病例，每個病歷都有CCTA+冠脈造影對照數據，結果顯示：以DSA仲裁醫生的結果為金標準，在病灶檢出方面，冠脈AI的95.1%的敏感度高于CTA醫生和DSA醫生。
其產品特異性（特異性指在不患病的人群中，成功排除患病的概率）與CTA仲裁醫生的結果近似。
?
推想科技則是ITU&WHO AL4H焦點組胸部CT領域的牽頭人，推想科技孫蒙蒙分享了焦點組胸部CT的立項經驗，她建議訓練數據最好來自的多個數據源，需反映疾病譜和需體現城鄉技術參數多樣性，訓練數據需注重質控環節；訓練標記應該至少兩名15年以上的高年資放射科醫生參加，要遵循既定規則，標記前要給醫生培訓，標記結果最好有病理結果確認等。
?
總結
長達兩日的會議參觀下來，我們可以清晰的感受的醫療器械創新網合作平臺為推動醫學人工智能器械發展所做的相關努力，但也能看出，要完善醫學人工智能智能的上市前審評審批與上市后監督，還有許多工作需要完成。
在會議之后，動脈網采訪到了數坤科技郭寧院長，結合動脈網記者自己的感悟，可將重點的內容集合為以下幾點。
?
一、體制進一步完善
本次會議最為明顯的變化是醫療數據應用技術研究組、醫學人工智能名詞術語規范化工作組兩個全新工作組的加入。就醫療數據應用技術研究組的2020年的工作規劃來看，器審中心將安排相關部門深入研究AI在臨床場景下的應用，關注AI產品的數據管理、假陰假陽問題、預警預報問題，通過這種方式，器審中心或許能夠建立更加完善的人工智能醫療器械評價體系。
?
二、企業、機構參與機會
在本次會議上，我們能夠看到許多數據庫建設、法律法規制定等研究沒有形成明確的框架，相關建設仍在探尋之中。這些工作不僅需要監管機構完成，同樣需要人工智能企業、研究機構的參與，共同推進相關標準的制定，對于人工智能企業而言，加入平臺能夠獲取更多的審評審批相關信息。
?
三、真實世界數據用于醫療器械臨床評價
2019年，國家藥監局器審中心組織起草了《真實世界數據用于醫療器械臨床評價技術指導原則(征求意見稿)》，而在本次會議上，于偉泓教授主任談及了真實數據應用于眼科AI產品的臨床評價，而國家藥監局器審中心臨床一部副部長劉英慧則詳細介紹了真實世界數據用于醫療器械臨床評價中的多種情形、數據來源、研究設計、統計分析等問題。
?
從各工作組2019年工作總結與2020年工作計劃中。動脈網推測，在2020年，我們有極大概率能夠看到第一張人工智能三類醫療器械注冊證的誕生，這對于整個人工智能醫學影像市場都將是一個極大的利好。相對于平靜的2019年，相信每個醫療AI從業者都已開始期待風起云涌的2020。
?
但是企業也仍需保持警惕，審評審批只是一扇門，AI企業會在門后的戰場如何廝殺？又有哪些新場景會生成醫院的“硬需求”？一切都是未知數。
*封面圖片來源：123rf
