Мнение: Чат-боты становятся основными врачами людей — впечатляет, но рискованно.

Мы быстро переходим от доктора Google к доктору Chatbot. В августе OpenAI сообщила о наличии более 200 миллионов активных пользователей в неделю, и хотя наиболее популярные запросы пользователей касаются написания текстов и программирования, некоторые используют их для более личных вопросов — от советов по свиданиям до ухода за кожей и диагностики болезней.

Недавнее исследование показало, что чат-боты на базе ИИ превзошли врачей по точности диагностики. Но можем ли мы действительно доверять ИИ в качестве наших врачей?

Так же, как расширился круг вопросов, которые люди задают, также увеличились опасения о рисках и опасностях связанных с использованием ИИ в медицинских целях, включая те, что связаны с вопросами жизни и смерти.

Доктор-чатбот становится популярным благодаря своим «чудесам»

Несколько дней назад женщина стала популярной на Reddit, потому что она поделилась тем, как ChatGPT помог ей улучшить состояние кожи лучше, чем дерматолог, и продемонстрировала впечатляющие фотографии «до» и «после».

37-летняя женщина-европейка использовала ChatGPT для создания индивидуального ухода за кожей лица для лечения своих закрытых комедонов, и это действительно помогло ей! pic.twitter.com/vwkm13G2Hs

— AshutoshShrivastava (@ai_for_success) 11 ноября 2024

«Затем я дала ChatGPT задание действовать как профессиональный дерматолог и помочь мне создать режим ухода за кожей, который помог бы избавиться от моих закрытых комедонов, акне, минимизировать поры и упругость кожи, а также уменьшить морщины. Я также предоставила ему фотографии моей кожи в то время», — написала она, а затем пояснила, что она попросила чатбот учесть все продукты, которые она уже имела, и предложить новые вместе с режимом ухода за кожей.

Через два месяца реддитор была поражена улучшениями в своей коже.

Это не единичный случай. Многие пользователи рассказали о том, как чат-боты смогли понять и объяснить снимки рентгеновских лучей и анализы крови лучше, чем их собственные врачи. Даже врачи были поражены анализом изображений и данных, интерпретированных искусственным интеллектом.

Почему люди используют чат-ботов в качестве врачей?

ИИ может превратиться в профессионала, которого вам нужно — терапевта, психотерапевта, дерматолога, диетолога, радиолога — когда вам это нужно, и множество причин, по которым люди предпочитают ИИ людям.

Специалисты могут быть дорогими

Женщина с проблемами кожи рассказала, что потратила около 400 долларов на покупку продуктов, которые предложил чат-бот.

«Это была довольно серьезная инвестиция, но если подумать о том, сколько бы стоила консультация у дерматолога, это даже не так уж плохо», — написала она.

Согласно BetterCare, в 2024 году пациент без медицинской страховки в США должен будет заплатить около $150 за визит к дерматологу и до $1000 за лечение. А средняя стоимость сеанса психотерапии — еще одного популярного применения для AI инструментов — варьируется от $100 до $200 за сеанс, согласно Forbes Health.

AI-чатботы являются более дешевой альтернативой и могут быть единственным выбором, особенно для людей с низким уровнем дохода.

Конечно, возникает еще один вопрос: Если что-то пойдет не так, действительно ли это мера экономии?

Быстрее и удобнее

Недавно у меня появилась сыпь на руке. Несмотря на то, что я видела пост о чуде-средстве для кожи той женщины, я предпочла проконсультироваться с дерматологом в Испании. Самый ранний доступный прием был через три месяца, даже несмотря на частное медицинское страхование. Мне повезло, что это, похоже, просто сухость, которая меня не беспокоит, и надеюсь, что она исчезнет к тому времени, когда сможет меня принять врач.

Сроки предоставления медицинской помощи зависят от города и страхового плана пациента. Однако посещение специалистов и даже врачей общей практики стало испытанием терпения во многих частях мира.

Чат-боты не только буквально находятся на расстоянии вытянутой руки, но и могут анализировать наши запросы и отвечать в течение нескольких секунд.

Меньше неловкости

У меня есть подруга-врач, к которой я могу обратиться в любое время, когда мне нужна медицинская консультация, но тот факт, что она моя подруга, иногда делает это неловким. Прежде чем написать ей, я всегда задаю себе вопрос: Проверяла ли я недавно, как она поживает? Она замечательный человек и прекрасный профессионал, и я уверена, что она никогда не перестанет отвечать на мои медицинские вопросы. Но, от человека к человеку, я не могу не заботиться о ее чувствах также.

Одним из преимуществ искусственного интеллекта является его собственная искусственность. У него нет чувств или плохих дней, он не будет судить вас или говорить вам: «Перестань быть таким ипохондриком» (не то чтобы мой друг когда-либо говорил мне это), потому что они обучены быть вежливыми и отвечать на все наши вопросы со всей информацией, которую мы хотим. Это часть того, что делает технологию зависимой, и, возможно, почему многие предпочитают задавать неловкие вопросы в «приватности» своих смартфонов.

Риски и опасности полагаться на чат-ботов

Все звучит круто и весело, пока мы не находим время, чтобы подумать о рисках и проблемах, с которыми сталкиваются ИИ и человечество.

Неправильная подсказка, неправильное заклинание

В том исследовании, где искусственный интеллект превзошел врачей, был сделан важный вывод: группа врачей, которым разрешили использовать ИИ в качестве союзника для диагностики, не показала значительно лучших результатов, чем те, кому не разрешили его использовать. Почему? Ну, часть проблемы заключалась в том, что они не знали, как правильно составить запросы, чтобы извлечь максимум пользы из ИИ.

«Они относились к нему как к поисковому движку для направленных вопросов: ‘Является ли цирроз фактором риска для рака? Какие возможные диагнозы для боли в глазах?’,» — сказал доктор Джонатан Х. Чен, один из авторов исследования, The New York Times.

Это одна из проблем, с которыми сталкиваются многие пользователи и технологии искусственного интеллекта. Чат-боты хороши в диагностике, но многие симптомы требуют индивидуального анализа. Что, если человек не предоставит чат-боту правильный контекст? Или забудет указать важные детали или условия, которые настоящий врач перед пациентом не пропустит?

Неточности и галлюцинации

Чат-боты — профессионалы-всезнайки, и иногда они говорят неправильные вещи с большой уверенностью. И мы верим этому. И пользователи, которые ежедневно полагаются на эту технологию, все больше и больше ей доверяют.

Трудно забыть тот момент в мае, когда Google Gemini предложил пользователям добавить «примерно ⅛ чашки нетоксичного клея в соус, чтобы дать ему больше липкости» в пиццу.

Это было смешно, потому что мы могли сразу определить галлюцинацию — так называемое явление, когда ИИ даёт абсурдные ответы. Но что, если речь идет о более сложной теме, что если человек, читающий ответ AI, испытывает страх, одиночество и беспокоится о своем здоровье?

Даже несмотря на то, что ИИ с каждым месяцем становится все лучше, возможность ошибки все еще существует.

Кого винить, если что-то пошло не так?

Этический вопрос сейчас активно обсуждается. Если чат-бот дает неправильный диагноз или ужасный совет, кого в этом винить? Разработчиков, модель, компанию, занимающуюся ИИ, источники, которые обучали эту модель?

Несколько недель назад произошел трагический случай, вызвавший общественное волнение, после того как американская мать обвинила ИИ в смерти своего 14-летнего сына и подала в суд на стартап Character.ai — платформу для создания ИИ-персонажей. Подросток страдал от депрессии и был одержим технологией. Его аватар, Дейнерис Таргариен, обсуждал с ним план самоубийства и даже поощрял его к этому действию.

В то время как ИИ был признан Всемирным экономическим форумом мощным инструментом для облегчения кризиса в области психического здоровья во всем мире и уменьшения растущего процента случаев тревоги и депрессии, он также может быть опасен, особенно для детей.

Делайте это «На свой страх и риск»

Хотя ей еще нужно совершенствоваться, мне нравится думать, что ИИ имеет большой потенциал для сокращения времени ожидания в здравоохранении — как для приема у специалистов, так и для обращения в отделение экстренной помощи, для ускорения научного прогресса, а также для поддержки врачей, особенно тех, кто перегружен из-за чрезмерной рабочей нагрузки и низкой оплаты труда, как это часто бывает в странах Латинской Америки, помогая пациентам задавать базовые вопросы из дома.

Он также может помочь преодолеть разрывы в доступе к медицинской помощи между различными социальными классами, прокладывая путь к демократизации медицины, как никогда ранее. Все это теперь находится в пределах нашего досягаемости, всего лишь запрос вдали для любого, у кого есть доступ к смартфону.

Однако важно понимать, что мы все еще находимся на ранних этапах и должны защищать население, которое наиболее уязвимо. Любой, кто решается использовать Dr. Chatbot для улучшения своего здоровья сегодня, должен делать это, осознавая мелкий шрифт в условиях и положениях, с критическим мышлением и с осознанием того, что — на данный момент — они берут на себя ответственность за риски, связанные с этим.