自1956 年在達特茅斯學院召開的會議上正式提出“人工智能”一詞至今，人工智能技術發展已經經歷了三起三落。最早的醫療人工智能系統是1972 年英國利茲大學研發的用于腹部劇痛輔助診斷的AAPHelp，隨后又有多個研究機構嘗試使用人工智能技術進行輔助診斷系統的開發，但由于算法性能和數據量的問題，都沒有真正在臨床廣泛使用。在這一過程中，很多傳統的機器學習算法被大量應用在圖像重建、后處理等醫療器械軟件中，幫助醫生實現了更高質量的圖像重建和一些自動/ 半自動的圖像后處理功能（如圖像分割、定量分析等）。
進入21 世紀后，伴隨著算法、算力的再一次升級，各行業多年數字化、信息化積累下了海量的數據，以深度學習為代表的新一代人工智能技術再次興起，一大批研究機構與創新企業開始探索如何將這些技術應用于醫療領域。本文根據作者多年來從事醫療器械開發、臨床研究的經驗，分析和討論新一代人工智能技術在醫學影像分析類產品開發過程中的應用。
選擇一個適合使用新一代人工智能技術來解決的臨床實踐問題，是醫療器械產品研發的第一步。醫療產品的開發離不開科研成果的轉化，但臨床科研與生產一款醫療器械產品還是存在著較大差別的。臨床科研是為了探索臨床實踐中的問題，并給出可能的解決方案。很多科研結果只是在相對理想的條件下進行的嘗試，與實際臨床應用中面臨的復雜環境還存在差距。
一些企業選擇解決目前還沒有明確科研成果和結論的方向進行嘗試，這種創新方向的嘗試既有可能創造較大的正向收益，也有可能造成較大的負面損失。一方面，對于還沒有明確科研結果的問題，如果這種嘗試能夠解決，會形成較高的技術壁壘，而且，在科研的過程中會發現許多生產中可能遇到的問題，這有利于積累解決問題的經驗。另一方面，從科研開始做起會延長產品的研發周期，對于初創企業來講會產生較大的壓力。這因為，科研課題有可能成功，有可能失敗，對于沒有固定營收的初創企業來講，風險較大。
算法、算力、數據是深度學習算法的三要素，在選擇產品開發方向的時候，需要考慮到目前各方面資源在這三個維度是否能夠達到生產產品的要求。目前的算力主要依賴于GPU 顯卡，在大多數的項目開發中，算力不會是項目開發的瓶頸，相關問題可以通過購買更多的計算資源解決。算法方面，一般來說，一個可以用深度學習解決的醫學圖像處理問題，之前都會有使用傳統機器學習的相關研究論文發表。因此，通過文獻調研的方式，可以了解采用傳統機器學習的準確性，以此作為深度學習算法研發的一個基礎標準，通過增加數據量的方式，利用深度學習算法提升算法的準確性。如果之前在該方向沒有傳統機器學習的算法文章發表，則需要進行更多的調研，從調研中了解沒有文章發表的真實原因。尤其是當該類問題的數據很容易搜集，且臨床問題看上去很簡單直接的時候，更應當深挖這其中的問題，以免重蹈前人的覆轍。
數據是基于新一代人工智能技術研發產品的基礎，在開始一款人工智能醫療器械的研發之前，我們應當充分調研數據——作為生產材料，是否能夠獲取我們希望得到的質量與數量。與交通、安防等行業動輒以TB 為單位的海量數據相比，醫療行業的信息化、數字化進程相對滯后，病例數能夠達到上萬或者數十萬的量級已經是十分困難。通過了解頭部醫院對于相關病例數的積累，可以大致了解數據量是否充足，同時結合之前機器學習文章中數據集的積累情況，可以基本判斷出研發所需的數據集是否有可能獲取到，或是需要多長時間的積累才可以達到比較理想的狀況。
除了做信息調研，與臨床醫生進行密切的合作也是選擇正確研發方向的一個重要環節。醫學專家不僅有著豐富的臨床經驗，清楚臨床需求，還有多年的臨床科研經驗，對很多新的方向都有所嘗試，這些經驗是十分寶貴的。從臨床專家那里獲取真實的臨床需求，了解科研中遇到的問題、困難以及取得的成果，可以避免走彎路，有利于更好地尋找到適合自身的研發方向。
研發醫療器械產品，需要研發負責人對產品形態在整個醫療過程中扮演的角色、產品可以解決臨床工作中的什么問題有著清晰的理解和認識，切忌盲目地“拿著錘子找釘子”。相比大眾消費領域的需求可以被大多數人所理解，產品定義者本身作為一名消費者能夠理解消費者群體的需求，而醫療等行業具有較高的專業知識壁壘，醫生和患者之間存在著極大的專業知識的不對稱性，使得我們無法從一個患者的角度，來創造一個作為患者所理解的醫療需求，而是應該更多地站在專業醫生的角度來思考問題。
臨床需求大體上可以分為兩類，一類是提升診斷和治療的準確性，也就是更好地看病；另一類是提升醫療效率，使得醫生在同樣的工作時長中能夠治療更多的患者。解決不同的需求所面臨的用戶也是不同的。由于我國醫療資源分配不均、醫生水平不等等問題，導致在不同的應用場景下，實際需要實現的算法需求是不同的。例如，對于一個疾病篩查的任務，需要盡量降低假陰性及漏診率。而對于一個需要在大型三甲醫院進行確診的病例，特異性、誤診率可能是需要被首先考慮的指標。由于人工智能算法的特性，使得即使是在同樣的數據和算法條件下構建的最優模型，在最終輸出結果時，閾值的選擇還是決定了敏感性、特異性兩個性能指標肯定是一升一降。而醫療器械要求算法具有極高的可重復性，不能隨意改動算法參數，影響輸出結果。因此，需要根據不同場景和使用者的不同需求情況，分別開發適用于這些場景的產品。
由于人工智能技術最早被應用于互聯網產業之中，所以在醫療人工智能產品的開發中，除了傳統的醫療器械開發人員之外，也引入了很多具有互聯網產品開發背景的人員。互聯網產品的開發講求快速迭代，不斷更新，根據用戶的使用情況，及時反饋和修正，以實現最好的用戶體驗。很多互聯網產品的功能迭代是以月、周甚至天為周期的，而傳統的醫療軟件的更新頻率通常是以年為單位。之所以醫療軟件更新的周期長，是因為整個研發過程需要進行嚴格的質量控制，以保證最終輸出的產品不會在臨床使用過程中發生意外或產生風險，而且醫療產品的每一次迭代都會產生巨大的研發成本。與很多互聯網產品選擇先上線供客戶試用，再不斷修正錯誤的過程不同，對于直接關系到人體生命健康的產品，醫生也不敢在有潛在風險的情況下，貿然嘗試將該產品在臨床使用。
因此，對于剛剛進入醫療行業的公司來講，建議加強企業對醫療器械質量文化的研究和實踐，認真分析并理解“互聯網思維”和“醫療器械質量文化”的差異，在發揮自己優勢的同時，也要提升自己在醫療器械領域的研發水平。當然，互聯網公司所擅長的敏捷開發，也是醫療器械公司所追求的，但這非照搬“盲目提出功能需求、先開發后修改”的模式。一個經濟且高效的開發方式，應當是在最初進行產品整體設計之時，對技術可行性、用戶需求、市場規模等多個方面進行充分的調研，確定產品的適用范圍和最終功能形態之后，通過敏捷開發的形式，不斷向著最終的目標前進，快速解決研發過程中遇到的各種問題。在保證產品質量的同時，盡快推進產品的研發上市進度。與生產其他的人工智能產品不同，生產一款醫療器械產品，要同時關注安全、有效這兩個方面，國家相關部門對于產品的審批，也主要考察這兩個方面。國家藥監局醫療器械技術審評中心發布的《深度學習輔助決策醫療器械軟件審評要點》（以下簡稱《審評要點》）中提到：“從發展驅動要素角度講，深度學習實為基于海量數據和高算力的黑盒算法。本審評要點重點關注軟件的數據質量控制、算法泛化能力、臨床使用風險，臨床使用風險應當考慮數據質量控制、算法泛化能力的直接影響，以及算力所用計算資源（即運行環境）失效的間接影響。”可見數據質量控制在新一代人工智能醫療產品的開發中發揮著重要作用。
在新一代人工智能醫療軟件的開發中，數據扮演著生產原材料的角色，因此對于生產原材料的質量需要嚴格把關。《審評要點》中提到：“數據收集應當考慮數據來源的合規性和多樣性、目標疾病流行病學特征、數據質量控制要求。數據來源應當在合規性基礎上保證數據多樣性，以提高算法泛化能力，如盡可能來自多家、不同地域、不同層級的代表性臨床機構，盡可能來自多種、不同采集參數的采集設備。”也就是說在獲得數據的時候，既要考慮到數據的來源，也需要完整記錄數據相關的信息。
研發人員要根據產品功能定義的內容，來確定該產品所需數據的完整性應包含的具體內容。而產品功能的定義要參照目前公認的臨床指南、專家共識、檢查規范等業界規范標準進行設定。在功能設計的時候，要保證功能的實現符合目前臨床的常規操作流程。例如：一款醫療器械軟件的功能定義為確定病灶位置，而病灶位置以及外觀屬性是可以通過影像數據準確判斷的，醫生在臨床診斷時，無需其他輔助信息單純獲取影像數據即可。如果該軟件功能定義為判斷病灶良惡性，而臨床上良惡性是通過病理結果確定的，則完整的數據至少應包括影像+ 病理報告。同時，如果是分類問題，每一類的數據量應當符合相應算法的最低要求。
數據標注是人類借助計算機等工具，對各種類型的數據包括文本、圖片、語音、視頻等，完成分類、畫框、注釋、標記并打上說明其某種屬性的標簽的工作。整個加工過程都應該在嚴格的質控下進行。除了在招募醫生時應有較高的招募標準外，在招募完成后，還要對醫生重新進行標注能力的評估和考核。建議由醫學專家組對參與考核的醫生進行標注規范培訓，之后由醫學專家組統一制作一批具有正確答案的標注數據作為考試庫數據。在篩選醫生時，根據病種類型選擇相應比例的考試題，測試應保證覆蓋產品功能中要分辨的每一類病例。
在醫生資質測試考核中，不僅要檢測醫生對病例判讀的準確性，還要考察該醫生兩次診斷的一致性。標注關注的重點是一致性，也就是說同一病例由不同標注者或同一標注者進行兩次觀測，其結果在誤差允許范圍內是一致的。評價一致性程度的方法很多，比如說Kappa值、Kendall 一致性系數、組內相關系數（ICC）等。對于不同的數據類型和標注方式，需要選擇合適的評價方式。
通過標注資格篩選考試的醫生，可以認為其專業水平達到項目的要求。但是在實際標注中，無論是現場集中標注還是遠程在線標注，標注人員的工作狀態都有可能會出現波動。所以需要對醫生每天的標注狀態進行實時監測，以保證數據標注的質量不會出現大幅度波動。監測方式主要有以下幾種：
第一，標注時間監測。在培訓測試階段，可以通過記錄測試過程中醫生對于每一個病例的標注時間，建立每一位標注者的標注時間分布。在實際標注階段，可以通過不斷比對每一個病例的標注時間、該時間在該標注人員標注時間分布中的位置來判斷標注的狀態。若標注時間多次出現過長或過短的情況，則需要對標注人員的狀態和數據的質量同時進行評估。
第二，標注一致性監測。在標注過程中，引入部分病例，讓同一名標注人員進行二次標注，并計算同一個人兩次標注之間的一致性，以確保標注人員的標注一致性水準始終能夠達到項目的要求，保證整體標注的一致性。第三，標注準確率監測。在標注過程中，引入部分醫學專家提供的帶有標準標注答案的病例，計算標注人員對于帶標準答案病例標注的準確性，用以評估標注人員的實時狀態。
由于開發深度學習類產品所需的數據標注量極大，標注過程的時長、費用都會十分高，因此控制標注過程的質量以及設計合理的標注方法和流程，能夠控制標注成本，大大降低由于設計不合理造成的返工和成本增加。
為了避免在大量數據標注后才發現問題，推薦進行小批量標注預實驗，用以檢驗方案的可行性。即在大批次數據標注之前，先選取少量病例數進行標注預實驗，以檢驗標注培訓效果和標注醫生水平，檢驗標注方案和標注策略是否可行，為確立最終的標注策略提供數據分布以及標注質量評定的參考，同時預估標注耗時和成本。標注預實驗階段，應選取超量的醫生（與最終實際標注相比）進行重復標注，以便評價不同標注質量控制和標注醫生的能力。如果在小樣本測試中發現多名醫生標注一致率不高等問題，則應當重新回顧產品需求的設計和功能定義，確定該問題是否可以通過該種標注形式來達到預期效果。
構建一個人工智能產品，把算法模型從0訓練到可以達到臨床實際應用的程度，需要嚴格管理每一個環節質量。好的標注數據質量就像營養豐富、均衡、干凈衛生的美食一樣，輸入進模型可以幫助人工智能模型健康、茁壯的成長。但是如果輸入了質量不達標的訓練數據，則會造成嚴重的“先天不足”，影響后天的成長。“磨刀不誤砍柴工”，正確的產品設計、高質量的數據、準確的標注是一個醫療人工智能產品能夠成功的重要條件。我們既要做到快速迭代，又要保證資源的合理利用。我們可以通過前期的充分調研論證與思考，配合小批量的預實驗來驗證方案的可行性。這既可以實現快速的多輪迭代，又可以避免資源的大量非必要支出，增加每輪迭代的有效性。我們在研發過程中既要充分學習互聯網行業快速迭代開發的機動性，又要保證遵循傳統醫療器械行業審評中“安全、有效”的基本要求，只有這樣，才能設計出好的基于新一代人工智能技術的醫療器械軟件。
