安徽滁州一名67歲的農戶透過AI軟體提供的方法，對150畝的芝麻田進行噴藥，結果卻造成芝麻苗一夜之間枯萎。農戶再次向AI查詢原因，AI表示，推薦的一種除草劑是導致芝麻受害的元兇。
據報導，農戶吳先生長期使用AI軟體進行施肥、用藥和農時安排的諮詢。他一年多前開始接觸這款軟體，最初持保留態度，但漸漸變得倚賴。
7月10日，吳先生向AI詢問芝麻田的除草和除蟲方法。AI生成了一份名為「百畝芝麻飛防除草＋除蟲全套方案」，建議使用高效氟吡甲禾靈、氟磺胺草醚、噻蟲嗪和甲維鹽等農藥。
吳先生照著方案噴藥後，第二天發現芝麻苗和雜草一起枯萎，其中芝麻苗受害更為嚴重。他再次詢問原因，AI才指出，導致芝麻受害的是氟磺胺草醚這種農藥。
當地農藥經銷商表示，氟磺胺草醚主要用於大豆田中除去闊葉雜草，不適合在芝麻田廣泛使用。農業技術人員也解釋，這種農藥在某些其他作物上也只能針對特定部分處理除草，全面噴灑會對作物造成危害。
吳先生認為，在AI生成方案時未有明確警告。該軟體頁面上雖然有「AI生成可能有誤，注意核實」的提示，但他並未注意到。
涉事AI軟體的客服表示，該軟體沒有自己的知識庫，回答問題是基於整合網路公開資訊而來，該平台將調查使用了哪些網路資料。對於吳先生的損失，客服僅表示會做紀錄反饋。截至報導發布時，該平台尚未公布後續處理結果。報導中也未提及涉事軟體名稱。
這起事件引起網民討論，有人表示「AI可以參考，但不能全然信賴」、「關鍵問題是無法追究責任」、「這麼多的農地怎麼能完全信賴AI呢」。
台灣國防安全研究院網絡安全與決策推演研究所副研究員謝沛學曾對外表示，AI大型模型甚至連明顯荒謬的虛構內容也會盲目接受，顯示其對資訊來源真實度的評估能力嚴重不足。部分AI模型為提高回答速度而引入即時檢索，但這可能忽略了對資訊來源品質的檢驗，增加受虛假資訊操控的風險。
中共官方媒體央視今年3月曝光，一則虛構產品的軟文發布約兩小時後，一款AI模型就開始介紹和推薦該產品。另據鳳凰網報導，連續發佈11篇虛假報導的三天後，DeepSeek、豆包等模型已將其列為相關產品的推薦。
