醫(yī)療AI聊天機(jī)器人有潛力為患者提供咨詢(xún)，但錯(cuò)誤的回答和有偏見(jiàn)的護(hù)理仍然是重大風(fēng)險(xiǎn)。
如果一個(gè)患者知道他們的醫(yī)生在即將到來(lái)的預(yù)約中會(huì)給他們錯(cuò)誤的信息，他們會(huì)立即取消。然而，像ChatGPT這樣的生成式AI模型經(jīng)常會(huì)“產(chǎn)生幻覺(jué)”，意思是編造東西。那么為什么有人想要使用AI進(jìn)行醫(yī)療目的呢？
這是一個(gè)樂(lè)觀的情景：AI工具在經(jīng)過(guò)驗(yàn)證的醫(yī)學(xué)文獻(xiàn)上接受培訓(xùn)，正如一些正在開(kāi)發(fā)中的模型已經(jīng)做到的那樣，但它們還會(huì)掃描患者記錄和智能手表數(shù)據(jù)。然后，像其他生成式AI一樣，它們會(huì)生成文本、照片，甚至視頻，針對(duì)每個(gè)用戶(hù)進(jìn)行個(gè)性化，并且足夠準(zhǔn)確以提供幫助。而反烏托邦版本則是：政府、保險(xiǎn)公司和企業(yè)推動(dòng)有缺陷的AI以降低成本，導(dǎo)致患者迫切需要人類(lèi)臨床醫(yī)生的醫(yī)療護(hù)理。
現(xiàn)在，很容易想象事情會(huì)出錯(cuò)，特別是因?yàn)锳I已經(jīng)被指責(zé)在網(wǎng)上傳播有害的建議。今年春天晚些時(shí)候，國(guó)家飲食障礙協(xié)會(huì)暫時(shí)停用了其聊天機(jī)器人，因?yàn)橛杏脩?hù)聲稱(chēng)它鼓勵(lì)了不健康的飲食習(xí)慣。但在美國(guó)，人們?nèi)匀豢梢韵螺d使用AI來(lái)評(píng)估癥狀的應(yīng)用程序。盡管存在潛在問(wèn)題，一些醫(yī)生仍然試圖使用這項(xiàng)技術(shù)與患者更富同情心地溝通。
ChatGPT和其他大型語(yǔ)言模型“非常自信，非常善于表達(dá)，但很常常是錯(cuò)誤的”，約翰霍普金斯大學(xué)計(jì)算機(jī)科學(xué)教授Mark Dredze說(shuō)。簡(jiǎn)而言之，人們?cè)谀軌蛐湃纹溽t(yī)療建議之前，AI還有很長(zhǎng)的路要走。
然而，Dredze對(duì)該技術(shù)的未來(lái)持樂(lè)觀態(tài)度。他的最新研究發(fā)現(xiàn)，ChatGPT已經(jīng)給出了與醫(yī)生在Reddit論壇上提供的建議相媲美的建議。而且，未來(lái)的生成式模型可能會(huì)在一定程度上補(bǔ)充醫(yī)生的診斷，而不是完全取代咨詢(xún)，Hugging Face的機(jī)器學(xué)習(xí)工程師Katie Link表示。例如，在就診后，它們可以更全面地解釋治療和病情，或者幫助避免因語(yǔ)言障礙而產(chǎn)生的誤解。
在更樂(lè)觀的展望中，哈佛醫(yī)學(xué)院的AI和醫(yī)療保健研究員Oishi Banerjee設(shè)想了能夠整合多個(gè)數(shù)據(jù)源的AI系統(tǒng)。利用照片、患者記錄、可穿戴傳感器等信息，他們可以“為任何人在任何地方提供良好的護(hù)理”，她說(shuō)。你手臂上有奇怪的皮疹？她想象中的皮膚科應(yīng)用程序可以分析照片，并查看你最近的飲食、位置數(shù)據(jù)和病史，為你找到合適的治療方法。
隨著醫(yī)療AI的發(fā)展，行業(yè)必須確保越來(lái)越多的患者數(shù)據(jù)的安全。但麻省理工學(xué)院的機(jī)器學(xué)習(xí)實(shí)驗(yàn)室負(fù)責(zé)人Marzyeh Ghassemi表示，監(jiān)管機(jī)構(gòu)現(xiàn)在可以為負(fù)責(zé)任的進(jìn)展奠定基礎(chǔ)。許多醫(yī)院已經(jīng)將匿名化的患者數(shù)據(jù)出售給谷歌等科技公司；美國(guó)政府機(jī)構(gòu)可以要求它們將這些信息添加到國(guó)家數(shù)據(jù)集中，以改進(jìn)醫(yī)療AI模型，加塞米建議。此外，聯(lián)邦審計(jì)可以審查醫(yī)院和醫(yī)療團(tuán)體使用的AI工具的準(zhǔn)確性，并停止向低質(zhì)量軟件提供有價(jià)值的醫(yī)療保險(xiǎn)和醫(yī)療補(bǔ)助金。醫(yī)生們不應(yīng)該只是被交付AI工具，他們應(yīng)該接受如何使用它們的廣泛培訓(xùn)。
很容易看出AI公司可能會(huì)誘使組織和患者注冊(cè)使用不能被信任的服務(wù)。立法者、醫(yī)療保健提供者、科技巨頭和企業(yè)家需要謹(jǐn)慎行事。生命取決于此。
本文譯自 Popular Science，由 BALI 編輯發(fā)布。
（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。
任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書(shū)面權(quán)利通知或不實(shí)情況說(shuō)明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。 ）
