Эксперты в области искусственного интеллекта предупреждают, что Канадскому агентству налоговой службы (CRA) рано полагаться на ИИ для помощи гражданам с налогами, если даже сотрудники колл-центров дают неточные ответы.

Во вторник генеральный аудитор Карен Хоган представила отчёт, в котором указала, что CRA отвечает лишь на небольшую часть звонков. 

Правильную информацию о подоходных налогах предоставляет менее чем одному из пяти дозвонившихся, пишет издание cnvn.

По её данным, чат-бот Charlie давал верные ответы примерно в трети случаев. Charlie использует заранее подготовленные сценарии для типовых запросов. CRA уже тестирует генеративную версию чат-бота и расширяет использование технологии — продлевает часы работы и увеличивает число доступных тем.

Анатолий Груздь, руководитель кафедры цифровых технологий, считает, что агентству нужно сначала разобраться с человеческим фактором: «Важно понять, почему люди ошибаются, прежде чем строить на этих данных системы искусственного интеллекта».

Адегбойега Оджо, специалист по управлению ИИ в госсекторе, считает, что технология может быть полезной при осторожном внедрении. Он предлагает смешанную модель, в которой ИИ отвечает на стандартные вопросы, а сложные случаи передают специалистам.

Оджо отметил, что ИИ может снизить нагрузку на персонал колл-центров, но подчеркнул, что полностью заменять людей нельзя: «Даже самые продвинутые чат-боты ошибаются, если не улавливают контекст. Поэтому ключевой принцип — человеческий контроль, именно он обеспечивает подотчётность».

Жасмен Мансо, доцент школы менеджмента Телфера при Оттавском университете, отметил, что современные системы ИИ лучше справляются с задачами предсказания, чем с ситуациями, требующими суждения.

По его словам, использование ИИ в госслужбе важно для технологического развития, но успех возможен только при доверии общества: «Если система точна и вызывает доверие, люди будут ей пользоваться. Нужно достичь уровня хотя бы 70–90% точности».