來自紐約大學、Evidation Health 和 NYU Langone Health 的一組研究人員發(fā)現(xiàn)，深度學習心電圖設(shè)備容易受到對抗性攻擊。在他們發(fā)表在《自然醫(yī)學》雜志上的論文中，該小組描述了他們?nèi)绾伍_發(fā)一種攻擊方法并用心電圖設(shè)備對其進行測試。
在過去幾年中，人們發(fā)現(xiàn)深度學習系統(tǒng)非常擅長某些對人類具有挑戰(zhàn)性的任務，例如下棋或在人群中尋找面孔。深度學習系統(tǒng)也已應用于醫(yī)學——例如幫助檢測乳腺癌腫瘤或監(jiān)測生命體征例如心跳，以提醒醫(yī)生或患者注意問題。其中一個應用是心電圖采集系統(tǒng)，其中一個設(shè)備監(jiān)測心臟并分析心電圖——一個人的心跳記錄。已經(jīng)開發(fā)和訓練了深度學習算法來尋找可能表明不規(guī)則心房顫動等活動的異常情況。智能手表等設(shè)備就是為使用它們而設(shè)計的。在這項新的努力中，研究人員發(fā)現(xiàn)了此類設(shè)備及其產(chǎn)生的輸出容易受到攻擊的證據(jù)。
研究人員通過首先獲得一組數(shù)千個心電圖記錄來證明深度學習心電圖設(shè)備的一個漏洞，他們將這些記錄分為四組之一：正常組、顯示心房顫動的組、其他組或噪聲組。在拆分數(shù)據(jù)并在自己的卷積網(wǎng)絡(luò)上訓練他們的系統(tǒng)后，他們向測試集中的樣本引入了少量噪聲——太小以至于人類無法分辨，但足以讓人工智能系統(tǒng)認為它看到的是心房纖顫。測試表明它按計劃工作。系統(tǒng)錯誤地將正常的心電圖識別為心房顫動的例子在 74% 的測試圖表中。研究人員還向兩名臨床醫(yī)生展示了對抗樣本——他們沒有那么容易被愚弄。他們只發(fā)現(xiàn) 1.4% 的讀數(shù)貼錯了標簽。
研究人員承認，黑客很難用智能手機等真實心電圖設(shè)備的數(shù)據(jù)復制他們的努力，因為這需要直接訪問——這在現(xiàn)實世界中不太可能實現(xiàn)。但是，他們?nèi)匀槐硎?，他們的努力表明，基于人工智能的醫(yī)療設(shè)備在被批準供公眾使用之前應該進行漏洞測試。
標簽：
免責聲明：本文由用戶上傳，與本網(wǎng)站立場無關(guān)。財經(jīng)信息僅供讀者參考，并不構(gòu)成投資建議。投資者據(jù)此操作，風險自擔。 如有侵權(quán)請聯(lián)系刪除！