Всемирная организация здравоохранения (ВОЗ) призвала быть осторожными при использовании искусственного интеллекта (ИИ) в сфере общественного здоровья.

Речь идёт о таких популярных платформах, как ChatGPT, Bard, Bert и многие другие, которые имитируют человеческое общение.

ВОЗ отмечает, что в случае с подобными платформами не сохраняется та осторожность, которой обычно придерживаются в любой новой технологии.

«Поспешное внедрение непроверенных систем может привести к ошибкам медицинских работников, причинить вред пациентам, подорвать доверие к ИИ и тем самым подорвать (или отсрочить) потенциальные долгосрочные преимущества и использование таких технологий во всем мире», — говорится в заявлении организации.

Что именно вызывает опасения экспертов ВОЗ:

  • Данные, используемые для обучения ИИ, могут быть необъективными или неточными и представлять риск для здоровья;
  • ИИ генерирует ответы, которые могут казаться пользователю авторитетными и правдоподобными, но будут полностью неверными или содержать серьёзные ошибки, особенно если это касается здоровья;
  • ИИ может учиться на основе данных, согласие на использование которых не было получено. Он также не может защитить конфиденциальную информацию, которую пользователь предоставляет, чтобы получить ответ (например, о состоянии здоровья);
  • ИИ может использоваться для «убедительной дезинформации» в виде текста, аудио- или видеозаписей, которые обществу будет трудно отличить от достоверного медицинского контента.