Искусственному интеллекту можно без постоянной проверки поручать расшифровку встреч, классификацию документов и подготовку внутренних черновиков. Однако модель не должна самостоятельно принимать решения, способные повлечь финансовые, юридические или медицинские последствия. Об этом «Газете.Ru» рассказала руководитель направления развития сервисов искусственного интеллекта в мобильном приложении УК «Альфа-Капитал» Екатерина Лисовская.
Рабочие задачи эксперт предложила разделить на три зоны. По ее словам, к «зеленой» относятся операции, при ошибке в которых не возникнет серьезных последствий: например, создание черновика или сортировка материалов. В «желтой» зоне ИИ готовит результат, но его обязательно проверяет сотрудник, добавила эксперт.
«В «красной» модели нельзя позволять принимать окончательное решение — сюда входят назначение компенсации клиенту, медицинская диагностика, юридическая консультация и проектирование зданий. Доверие к ИИ — не философская категория, а практическая конструкция. Важно понимать, какие данные получила система, что ей разрешено делать, как проверяется результат и кто отвечает за последствия. Польза и риски такой работы подтверждаются экспериментом с участием 758 консультантов Boston Consulting Group. При решении сложного кейса, выходящего за границы возможностей модели, использование ИИ снизило вероятность правильного ответа на 19 процентных пунктов», — пояснила Лисовская.
По ее словам, ошибочные выводы при этом могли выглядеть логичными и убедительными, из-за чего сотрудники доверяли им больше, чем следовало.
Лисовская добавила, что одного обучения работе с запросами недостаточно — компаниям нужны критерии проверки ответов, ограничения на действия ИИ, журнал операций и возможность остановить автоматизированный процесс. Сотрудники также должны понимать, в каких случаях вывод модели необходимо сверять с первоисточниками, заключила эксперт.
Ранее адвокат рассказал, может ли ИИ увольнять россиян с работы.
