บริษัทเทคโนโลยีชั้นนำรวมถึง Microsoft, Amazon และ OpenAI ได้เปิดตัวแชทบอท AI สำหรับการใช้งานทางการแพทย์อย่างต่อเนื่องเพื่อตอบรับความต้องการของผู้บริโภคที่เข้าถึงระบบสาธารณสุขได้ยาก อย่างไรก็ตาม นักวิจัยแสดงความกังวลว่าเครื่องมือเหล่านี้ยังขาดการประเมินอย่างเข้มงวดจากผู้เชี่ยวชาญอิสระก่อนออกสู่สาธารณะ
แม้ว่าโมเดลรุ่นใหม่อย่าง GPT-5 จะมีคะแนนการทดสอบด้านสุขภาพ (HealthBench) ที่ดีขึ้น แต่การศึกษาจาก Mount Sinai พบว่าบางครั้ง AI ยังแนะนำการรักษาที่เกินความจำเป็นสำหรับอาการเล็กน้อย หรือไม่สามารถระบุภาวะฉุกเฉินได้อย่างถูกต้อง ปัญหาสำคัญคือช่องว่างระหว่างความสามารถของตัวโมเดลและการใช้งานจริงของผู้ใช้ที่ไม่มีความรู้ทางการแพทย์ ซึ่งอาจส่งผลให้การสื่อสารข้อมูลคลาดเคลื่อนและเกิดอันตรายได้
