ИИ опасен для здоровья и может убить: подробности

Консультироваться с искусственным интеллектом по вопросам здоровья опасно. Об этом предупредила доцент РЭУ им. Г. В. Плеханова Марина Холод. Дело в том, что чат-бот не видит историю болезни, не изучает анализы и не осматривает пациента, а это обязанности врача. К тому же ИИ не несет ответственности за свои советы.

Эксперт назвала главное правило безопасности: если ИИ советует поменять схему приема лекарств, отменить препарат или что-то скрыть от врача, нужно сразу прекратить такой разговор и обратиться к специалисту. Особенно рискованно менять дозировки или отказываться от противоэпилептических, психиатрических, сердечных препаратов, инсулина и антикоагулянтов. Резкая отмена некоторых лекарств может стоить жизни, и такие решения вправе принимать только врач.

Еще одна опасность — склонность языковых моделей «подстраиваться» под пользователя. Если человек уже настроен отказаться от лекарства, чат-бот может невольно поддержать эту идею. При этом ответы нейросети звучат уверенно и грамотно, поэтому обычный человек вряд ли поймет, что совет ошибочен.

«Полностью отказываться от ИИ в вопросах здоровья не обязательно. Он может объяснить медицинский термин, помочь разобраться в инструкции, подготовить вопросы к врачу», — отметила Марина Холод в беседе с РИА Новости.

Проблема в том, что люди используют универсальные чат-боты как врачей, хотя такие системы не проходят обязательную проверку и регистрацию, в отличие от медицинских ИИ-систем в клиниках. По мнению Холод, разработчики должны жестко запретить выдачу советов по изменению лечения, и технически это вполне реализуемо. Такие меры помогут избежать новых трагедий.