Во Всемирной организации здравоохранения (ВОЗ) предупредили, что использовать искусственный интеллект в медицинских целях необходимо с осторожностью.
Организация призвала тщательно исследовать риски при использовании ChatGPT, Bard, Bert и других платформ. В числе опасений ВОЗ назвала:
- искусственный интеллект могут обучать на предвзятых данных, из‑за чего он может генерировать «ложную или неточную информацию, которая может принести ущерб здоровью и инклюзивности»;
- иногда чат-боты генерируют ответы, которые кажутся пользователю достоверными и правдоподобными, но на деле являются совершенно неверными;
- не все чат-боты обучены защищать предоставленную им пользователем чувствительную информацию, в том числе касающуюся его здоровья;
- чат-боты могут генерировать информацию в форме текста, аудио- и видеоконтента, которая выглядит «очень убедительно», а пользователи не всегда в состоянии отличить обман от достоверных данных.
В ВОЗ добавили, что одобряют «надлежащее использование технологий», но подчеркнули важность «прозрачности, инклюзивности, участия общественности, контроля экспертов и тщательной оценки», прежде чем чат-боты начнут активно применять в здравоохранении.