江蘇徐州一名患者家屬近日表示，他陪同奶奶看診時，發現醫生以字節跳動旗下人工智慧工具「豆包」查詢用藥資訊。家屬因對安全性存疑，拒絕讓該名醫生開立藥物。院方10月27日回應稱，醫生查詢後判斷相關藥物不適合患者，當天並未開藥。
韓先生指出，10月25日下午，他陪奶奶前往徐州醫科大學附屬醫院心血管內科就診，並向醫生說明患者對地平類降壓藥過敏，且尿酸數值偏高。
他表示，醫生當時稱需要查閱資料，隨即取出手機開啟「豆包」。韓先生說，醫生透過該工具查詢某種藥物是否可供患者使用，在獲得「可以」的回覆後準備開藥；但他對此感到不放心，因此予以拒絕。
家屬公開的影片顯示，醫生在問診過程中操作手機，豆包的對話頁面可見「重點檢測項目」、「慎用、儘量不用」等文字。
徐州醫科大學附屬醫院工作人員10月27日表示，醫生當時是以豆包查詢一種新藥是否適合該患者，查詢後發現不適用，因此沒有開立該藥。該工作人員稱，人工智慧僅是用於取得資訊的輔助工具，最終處方仍由醫生決定；醫院不會直接使用豆包為患者開藥。
這起事件引起網民討論。有人留言稱：「以後不用去醫院了，直接問豆包就好了。」也有人認為，醫生若對藥物副作用存有疑問，查閱資料並非不能接受，重點在於是否能查證資訊，以及是否願意為最終處方負責。
另有網民指出：「豆包一本正經胡說八道的時候並不少。」也有人質疑，使用人工智慧本身沒有問題，但應選擇更好的工具。
豆包在《算法及模型備案公示說明》中表示，該工具可能產生不正確或虛假的內容，相關輸出僅供一般資訊與參考之用，不構成使用者應當依賴的建議。說明中亦指出，豆包不提供診療諮詢及醫療結果解釋，其生成內容不能被視為真正的醫療建議。
澳洲昆士蘭州全科醫生薩爾馬赫（Sidd Sarmah）10月5日談及患者以人工智慧查詢健康問題時表示，人工智慧是依賴模式識別運作，但醫學狀況具有個體差異，人體並非一套可按固定方式解讀的程式碼。
他認為，若繞過家庭醫生而自行解讀演算法提供的資訊，可能帶來很大的風險。
