Врач Орлов: ИИ способен порекомендовать смертельно опасную комбинацию лекарств

Смертность от медицинских советов искусственного интеллекта (ИИ) является реальной угрозой. Об этом предупредил врач Семен Орлов в разговоре с РИАМО.

У нейросети нет собственного клинического мышления. Она только алгоритмически компонует текст, взятый из базы данных. Главная опасность скрывается в упущенном времени и ложном успокоении со стороны ИИ.

У пациента могут быть атипичные симптомы инфаркта (например, тошнота и боль). Однако бот может списать их на обычный гастрит. Тогда вместо экстренного вызова скорой помощи человек примет антацид, ляжет спать и погибнет от некроза миокарда, рассказал врач.

Второй угрозой являются машинные галлюцинации. ИИ может с уверенностью порекомендовать смертельно опасную комбинацию препаратов, игнорируя хронические болезни пациента и вероятность перекрестных реакций. Алгоритм не может пальпировать живот, посмотреть на цвет кожи, послушать легкие или ознакомиться с медкартой. И он не понесет уголовной ответственности в случае ошибки, заключил Орлов.

Ранее он заявил, что попытка планировать беременность только по советам искусственного интеллекта (ИИ) представляет собой иллюзию контроля над репродуктивным здоровьем.