Искусственный интеллект следует использовать с осторожностью в медицине, в том числе при постановке диагнозов, предупредили во Всемирной организации здравоохранения (ВОЗ). Там призвали тщательно изучать риски при работе с ChatGPT, Bard, Bert и подобными платформами.

Вот что вызывает опасения у организации:

  • Искусственный интеллект может обучиться на основе предвзятых данных и из-за этого генерировать неверную информацию, способную нанести «ущерб здоровью и инклюзивности»;
  • Не все чат-боты защищают предоставленную им чувствительную информацию о пользователе, в том числе данные о его здоровье;
  • Люди не всегда могут отличить обман от правды, когда пользуются сгенерированной чат-ботами «весьма убедительной» информацией в формате текста, аудио- и видеоконтента.
Психолог против ChatGPT, или Почему они несчастны — 2

ВОЗ одобряет «надлежащее использование технологий», но подчеркивает важность «прозрачности, инклюзивности, участия общественности, контроля экспертов и тщательной оценки» перед тем, как чат-боты начнут активно применять в здравоохранении.