內地河南省一名狗主早前因為愛犬生病，向AI助手「豆包」求問處方。狗主詢問一款名為「小兒氨酚黃那敏顆粒」的人類感冒藥是否適合狗隻服用，結果該AI助手給出錯誤建議，聲稱餵食三分之一包的劑量屬於安全。然而該款藥物含有對乙酰氨基酚，即港人熟知的撲熱息痛，這種成分對犬隻而言屬於劇毒，即使微量亦會引發不可逆轉的肝腎功能損傷。狗主按建議餵食後，小狗隨即出現嘔吐及抽搐等中毒症狀，雖然緊急送往獸醫診所搶救，最終仍不幸死亡。
事件曝光後引發網民對人工智能技術責任與用戶判斷力的強烈爭議。涉事AI平台事後已經致歉並承認給出錯誤建議，但已無法挽回無辜的小生命。其實類似悲劇並非首次發生，曾有用戶因為愛犬嘔吐而求助AI，結果被誤診為普通腸胃炎並建議居家觀察，實際病情卻是急性胰腺炎，最終因為延誤救治而導致寵物死亡。這類事件充分暴露了AI存在的幻覺問題，即系統會一本正經地胡說八道，甚至虛構用藥劑量，而用戶往往無法即時驗證資訊的真實性。大批內地網民強烈要求AI平台必須加強醫療內容的審核機制，並對涉及生命健康的高風險提問強制加入警告字句。
除了批評系統缺陷，不少輿論亦指出涉事主人責無旁貸。
事件曝光後引發網民對人工智能技術責任與用戶判斷力的強烈爭議。涉事AI平台事後已經致歉並承認給出錯誤建議，但已無法挽回無辜的小生命。其實類似悲劇並非首次發生，曾有用戶因為愛犬嘔吐而求助AI，結果被誤診為普通腸胃炎並建議居家觀察，實際病情卻是急性胰腺炎，最終因為延誤救治而導致寵物死亡。這類事件充分暴露了AI存在的幻覺問題，即系統會一本正經地胡說八道，甚至虛構用藥劑量，而用戶往往無法即時驗證資訊的真實性。大批內地網民強烈要求AI平台必須加強醫療內容的審核機制，並對涉及生命健康的高風險提問強制加入警告字句。
除了批評系統缺陷，不少輿論亦指出涉事主人責無旁貸。