سؤال وجواب: لماذا تحتاج برامج الدردشة الخاصة بالصحة العقلية إلى حواجز أمان صارمة

سؤال وجواب: لماذا تحتاج برامج الدردشة الخاصة بالصحة العقلية إلى حواجز أمان صارمة

لا تزال الصحة العقلية التركيز السريري الرائد لمستثمري الصحة الرقمية. هناك الكثير من المنافسة في الفضاء ، لكنها لا تزال تمثل تحديًا كبيرًا لنظام الرعاية الصحية: يعيش العديد من الأمريكيين في مناطق بها أ نقص العاملين في مجال الصحة العقلية، مما يحد من الوصول إلى الرعاية.

أعلنت Wysa ، الشركة المصنعة لبرنامج chatbot المدعوم بالذكاء الاصطناعي والذي يهدف إلى مساعدة المستخدمين على العمل من خلال مخاوف مثل القلق والتوتر والمزاج السيئ ، مؤخرًا 20 مليون دولار زيادة في التمويل من الفئة ب ، بعد فترة وجيزة من حصول الشركة الناشئة على تصنيف جهاز اختراق من إدارة الغذاء والدواء الأمريكية لاستخدام أداتها لمساعدة البالغين الذين يعانون من آلام العضلات والعظام المزمنة.

رامكانت فيماتي ، الشريك المؤسس للشركة ورئيسها ، جلس معه MobiHealthNews لمناقشة كيفية عمل روبوت المحادثة ، الدرابزين الذي يستخدمه Wysa لمراقبة السلامة والجودة ، وما هو التالي بعد جولة التمويل الأخيرة.

أخبار MobiHealth: لماذا تعتقد أن chatbot هو أداة مفيدة للقلق والتوتر؟

راماكانت فيماتي: إمكانية الوصول لها علاقة كبيرة بها. في وقت مبكر من رحلة Wysa ، تلقينا تعليقات من ربة منزل قالت ، “انظر ، أحب هذا الحل لأنني كنت جالسًا مع عائلتي أمام التلفزيون ، وقمت بجلسة كاملة من العلاج المعرفي السلوكي [cognitive behavioral therapy]، ولم يكن على أحد أن يعرف “.

أعتقد أن الأمر يتعلق حقًا بالخصوصية وإخفاء الهوية وإمكانية الوصول. من وجهة نظر المنتج ، قد يفكر المستخدمون في الأمر أو لا يفكرون فيه بشكل مباشر ، ولكن الأمان والحواجز التي قمنا بتضمينها في المنتج للتأكد من ملاءمته للغرض في سياق العافية هذا جزء أساسي من القيمة التي نقدمها . أعتقد أن هذه هي الطريقة التي تنشئ بها مساحة آمنة.

في البداية ، عندما أطلقنا Wysa ، لم أكن متأكدًا تمامًا من كيفية القيام بذلك. عندما بدأنا العمل في عام 2017 ، كنت مثل ، “هل سيتحدث الناس حقًا إلى روبوت محادثة عن أعمق مخاوفهم وأكثرها سوادًا؟” أنت تستخدم روبوتات المحادثة في سياق خدمة العملاء ، مثل موقع ويب للبنك ، وبصراحة ، فإن التجربة تترك الكثير مما هو مرغوب فيه. لذلك ، لم أكن متأكدًا تمامًا من كيفية تلقي ذلك.

أعتقد أنه بعد خمسة أشهر من إطلاقنا ، تلقينا هذا البريد الإلكتروني من فتاة قالت إن هذا كان موجودًا عندما لم يكن هناك أي شخص آخر ، وقد ساعد هذا في إنقاذ حياتها. لم تستطع التحدث إلى أي شخص آخر ، فتاة تبلغ من العمر 13 عامًا. وعندما حدث ذلك ، أعتقد أن ذلك حدث عندما انخفض البنس ، شخصيًا بالنسبة لي ، كمؤسس.

منذ ذلك الحين ، مررنا بتطور ثلاثي المراحل للانتقال من فكرة إلى مفهوم إلى منتج أو عمل تجاري. أعتقد أن المرحلة الأولى قد أثبتت لأنفسنا ، حقًا إقناع أنفسنا ، أن المستخدمين يحبونها ويستمدون قيمة من الخدمة. أعتقد أن المرحلة الثانية كانت لإثبات ذلك من حيث النتائج السريرية. لذلك ، لدينا الآن 15 مراجعة من قبل الزملاء المنشورات أيضاً نشرت أو في القطار الآن. نحن نشارك في ست تجارب معشاة ذات شواهد مع شركاء مثل NHS و هارفارد. وبعد ذلك ، لدينا تصنيف جهاز اختراق من إدارة الغذاء والدواء (FDA) لعملنا في مجال الألم المزمن.

أعتقد أن كل هذا هو إثبات وإنشاء قاعدة الأدلة تلك ، والتي تمنح الجميع الثقة أيضًا في أن هذا يعمل. وبعد ذلك ، تقوم المرحلة الثالثة بتوسيع نطاقها.

MHN: لقد ذكرت حواجز الحماية في المنتج. هل يمكنك وصف ما هؤلاء؟

فيمباتي: رقم 1 ، عندما يتحدث الناس عن الذكاء الاصطناعي ، هناك الكثير من المفاهيم الخاطئة ، وهناك الكثير من الخوف. وبالطبع هناك بعض الشكوك. ما نفعله مع Wysa هو أن الذكاء الاصطناعي ، إلى حد ما ، يوضع في صندوق.

حيث نستخدم البرمجة اللغوية العصبية [natural language processing]، نحن نستخدم NLU ، فهم اللغة الطبيعية ، لفهم سياق المستخدم وفهم ما يتحدثون عنه وما يبحثون عنه. ولكن عند الرد على المستخدم ، تكون استجابة مبرمجة مسبقًا. المحادثة مكتوبة من قبل الأطباء. لذلك ، لدينا فريق من الأطباء من بين الموظفين الذين يكتبون المحتوى بالفعل ، ونختبر ذلك بوضوح.

لذا ، الجزء الثاني ، نظرًا لأننا لا نستخدم النماذج التوليدية ، فنحن أيضًا ندرك جيدًا أن الذكاء الاصطناعي لن يلتقط أبدًا ما يقوله شخص ما بنسبة 100٪. ستكون هناك دائمًا حالات يقول فيها الأشخاص شيئًا غامضًا ، أو سيستخدمون جملًا متداخلة أو معقدة ، ولن تتمكن نماذج الذكاء الاصطناعي من التقاطها. في هذا السياق ، عندما نكتب نصًا ، فأنت تكتب بقصد أنه عندما لا تفهم ما يقوله المستخدم ، فلن يتم تشغيل الاستجابة ، ولن تسبب أي ضرر.

للقيام بذلك ، لدينا أيضًا بروتوكول اختبار رسمي للغاية. ونحن نلتزم بمعايير السلامة التي تستخدمها NHS في المملكة المتحدة. لدينا مجموعة كبيرة من بيانات السلامة السريرية ، والتي نستخدمها لأن لدينا الآن 500 مليون محادثة على المنصة. لذلك ، لدينا مجموعة ضخمة من بيانات المحادثة. لدينا مجموعة فرعية من البيانات التي نعلم أن الذكاء الاصطناعي لن يتمكن أبدًا من التقاطها. في كل مرة نقوم فيها بإنشاء برنامج نصي جديد للمحادثة ، نقوم بعد ذلك باختبار مجموعة البيانات هذه. ماذا لو قال المستخدم هذه الأشياء؟ ماذا سيكون الرد؟ وبعد ذلك ، ينظر أطباؤنا في الاستجابة والمحادثة ويحكمون على ما إذا كانت الاستجابة مناسبة أم لا.

MHN: عندما أعلنت عن مجموعتك B ، قالت Wysa إنها تريد إضافة المزيد من دعم اللغة. كيف تحدد اللغات المراد تضمينها؟

فيمباتي: في الأيام الأولى لـ Wysa ، اعتدنا أن يكتب الناس باللغة ويتطوعون للترجمة. كان لدينا شخص من البرازيل يكتب ويقول ، “انظر ، أنا ثنائي اللغة ، لكن زوجتي تتحدث البرتغالية فقط. ويمكنني أن أترجم لك.”

لذا ، فهو سؤال صعب. ينفجر قلبك ، خاصة بالنسبة للغات منخفضة الموارد حيث لا يحصل الناس على الدعم. ولكن هناك الكثير من العمل المطلوب ليس فقط للترجمة ، ولكن هذا يكاد يكون تكيفًا. يكاد يكون مثل بناء منتج جديد. لذلك ، عليك أن تكون حذرًا للغاية فيما يتعلق بما تقوم به. وهي ليست مجرد ترجمة ثابتة لمرة واحدة. تحتاج إلى مشاهدته باستمرار ، والتأكد من أن السلامة السريرية في مكانها الصحيح ، وأنها تتطور وتتحسن بمرور الوقت.

لذلك ، من وجهة النظر هذه ، هناك عدد قليل من اللغات التي ندرسها ، مدفوعًا أساسًا بطلب السوق والأماكن التي نتمتع فيها بالقوة. لذلك ، فهو مزيج من ملاحظات السوق والأولويات الإستراتيجية ، بالإضافة إلى ما يمكن للمنتج التعامل معه ، والأماكن التي يسهل فيها استخدام الذكاء الاصطناعي بهذه اللغة المعينة مع السلامة السريرية.

MHN: لقد لاحظت أيضًا أنك تبحث عن الاندماج مع خدمة المراسلة WhatsApp. كيف سيعمل هذا التكامل؟ كيف تدير مخاوف الخصوصية والأمان؟

فيمباتي: WhatsApp هو مفهوم جديد جدًا بالنسبة لنا الآن ، ونحن نستكشفه. نحن ندرك جيدًا متطلبات الخصوصية. WhatsApp نفسه مشفر من طرف إلى طرف ، ولكن بعد ذلك ، إذا كسرت حجاب إخفاء الهوية ، فكيف تفعل ذلك بطريقة مسؤولة؟ وكيف تتأكد من أنك تمتثل أيضًا لجميع المعايير التنظيمية؟ هذه كلها محادثات جارية الآن.

لكني أعتقد ، في هذه المرحلة ، أن ما أرغب في تسليط الضوء عليه حقًا هو أننا نقوم بذلك بحذر شديد. هناك شعور كبير بالإثارة حول فرصة WhatsApp لأنه ، في أجزاء كبيرة من العالم ، هذه هي الوسيلة الأساسية للاتصال. في آسيا وأفريقيا.

تخيل أشخاصًا في مجتمعات محرومة من الخدمات حيث لا يتوفر لديك دعم للصحة العقلية. من وجهة نظر التأثير ، هذا حلم. لكنها مرحلة مبكرة.

شاهد أيضاً

GQ

يرتدي بن أفليك مزاجه على معصمه

مرحبا بك في ساعات الأسبوع، حيث سنتتبع أكثر الساعات ندرة ووحشية والأكثر رواجًا التي تم …

اترك تعليقاً

لن يتم نشر عنوان بريدك الإلكتروني.