يشعر مقدمو الخدمات والباحثون بقلق متزايد بشأن ما إذا كانت الخوارزميات المعقدة وثغرات الخصوصية والمخاطر الأخرى يمكن أن تفوق وعود التكنولوجيا وتؤدي إلى نتائج خطيرة على المرضى وفي سياق الانتشار السريع لتطبيقات الذكاء الاصطناعي وعلى رأسها GBT Chat والاستخدام المتزايد لها في العديد من المجالات بما في ذلك المساعدة في توفير المعلومات الصحية ومطلوب إطار عمل ينظم حدود استخدام الذكاء الاصطناعي عندما يتعلق الأمر على صحة المريض وسلامته خاصة في المجال النفسي الذي في الأساس يعتمد على حوار بين المريض والطبيب.
وهناك شكوكًا واسعة النطاق حول ما إذا كان استخدام الذكاء الاصطناعي لتشخيص الحالات وعلاجها سيسهم في عدم تفاقم حالات المرض ولاحظت الجمعية الأمريكية للطب النفسي انتشار تطبيقات الصحة العقلية في كل مكان ويتعرض المنظمون لضغوط شديدة لمواكبة هذه التطبيقات وتقدر الجمعية الأمريكية للطب النفسي أن هناك أكثر من 10000 طلب يتم تداولها في متاجر التطبيقات مشيرة إلى أن غالبية الطلبات لم تتم الموافقة عليها ويمكن أن يؤدي انتشار روبوتات الدردشة التي تعمل بالذكاء الاصطناعي مثل تطبيقات Wysa و FDA المعتمدة إلى تخفيف النقص الموجود في مستشاري الصحة العقلية لحالات الإفراط في تعاطي المخدرات.
ويتم نشر التكنولوجيا لتحليل محادثات المرضى وتنقيح الرسائل النصية لتقديم توصيات بناءً على ما يقوله المرضى للأطباء وفقًا لموقع الأخبار Axios ويتنبأ التطبيق بخطر إدمان المواد الأفيونية ويكشف عن اضطرابات الصحة العقلية مثل الاكتئاب والقلق الآن وفقًا للمصدر وهو ما إذا كانت التكنولوجيا قد بدأت في دفع الحدود واتخاذ القرارات الطبية وما يمكن من إدارة الغذاء والدواء الأمريكية أن تفعله لمنع مخاطر السلامة على المرضى.
واستخدمت مؤخرًا ChatGPT كمستشار للصحة العقلية لحوالي 4000 شخص لم يكونوا على دراية بالإجابات التي تم إنشاؤها بواسطة الذكاء الاصطناعي مما أثار انتقادات من علماء الأخلاق الطبية ويلجأ أشخاص آخرون إلى ChatGPT بصفتهم معالجًا شخصيًا على الرغم من التحذيرات من النظام الأساسي بأنه لا يُقصد استخدامه للعلاج ومن جانبها قامت إدارة الغذاء والدواء الأمريكية (FDA) بتحديث إرشادات التطبيق والبرنامج كل بضع سنوات منذ عام 2013 وأطلقت مركزًا للصحة الرقمية في عام 2020 للمساعدة في تقييم ومراقبة الذكاء الاصطناعي في الرعاية الصحية وفي وقت مبكر من جائحة الفيروس التاجي.
وخففت إدارة الغذاء والدواء الأمريكية بعض متطلبات ما قبل التسويق لتطبيقات الأجهزة المحمولة التي تعالج الحالات النفسية لتخفيف العبء على بقية النظام الصحي وأقر مسؤول كبير بأن عملية مراجعة التحديثات الخاصة بمنتجات الصحة الرقمية لا تزال بطيئة وفي غضون ذلك وجد تقرير لإدارة الغذاء والدواء في سبتمبر الماضي أن إطار عمل الوكالة الحالي لتنظيم الأجهزة الطبية غير مجهز للتعامل مع سرعة التغيير الضرورية أحيانًا لتوفير ضمان معقول للسلامة والفعالية للأجهزة سريعة التطور.
وقد دفع ذلك بعض شركات الصحة الرقمية إلى تجنب العقبات التنظيمية المكلفة والمستهلكة للوقت مثل تقديم أدلة سريرية والتي قد تستغرق سنوات لدعم أمان التطبيق وفعاليته للموافقة عليه كما قال برادلي طومسون المحامي المتخصص في تطبيق إدارة الغذاء والدواء وأضاف : أنه على الرغم من التوجيهات لم تفعل إدارة الغذاء والدواء أي شيء تقريبًا في هذا المجال ويبدو الأمر كما لو أن المشكلة كبيرة جدًا ولا يعرفون حتى كيفية البدء في حلها ولا يعرفون حتى ما يجب عليهم فعله.