В США могут промаркировать медицинские ИИ-системы

В США федеральные регулирующие органы предложили новую систему маркировки для медицинского программного обеспечения (ПО), применяющего искусственный интеллект (ИИ). Пометки должны раскрывать, как обучалась нейросеть, как она работает и как правильно использовать систему на основе неё. Таким образом, правительство страны хочет раскрытия бó‎льшего объёма информации о ПО для здравоохранения, разработанного как IT-гигантами вроде Google, Amazon и Oracle, так и новыми стартапами.

Искусственный интеллект активно внедряется в сфере здравоохранения США, отмечает The Wall Street Journal. Системы ИИ уже могут самостоятельно вести записи, просматривать медицинскую карту, сравнивая её данные с данными из карт других пациентов, и даже ставить диагнозы и предлагать обследования. 

Вместе с тем, продолжает издание, исследования показали, что медицинские системы были обучены на ограниченном количестве данных, что снизило их точность. Поэтому ИИ-инструменты могут допускать ошибки: путаться в медицинской терминологии, назначать неправильные лекарства и делать предвзятые относительно расы или уровня доходов пациентов прогнозы. 

В то же время медицинские и технологические компании отмечают риски и самой маркировки и заявляют, что потенциальное нововведение может поставить под угрозу конфиденциальность информации и навредить конкуренции, и потому выступают против инициативы.

Правило маркировки может быть доработано американским правительством до конца этого года.