Новое исследование показало неожиданную тенденцию: когда дело доходит до юридических советов, все больше людей отдают предпочтение… не опытным юристам, а чат-ботам. И часто даже не подозревают об этом.
ИИ против профессионалов
В серии экспериментов с участием 288 добровольцев выяснилось: если люди не знают, кто дал им совет — человек или машина, они с большей вероятностью выберут совет ИИ.
Причем даже тогда, когда им открывают источник информации, готовность прислушаться к ИИ почти такая же, как и совет реального адвоката.
Почему так происходит? Один из ответов — лексика. Искусственный интеллект часто использует сложные, научные конструкции, которые создают иллюзию профессионализма.
В то же время настоящие юристы объясняют просто и пространно — что иногда кажется менее авторитетным в глазах рядового пользователя.
Но за блеском уверенных ответов скрывается серьезная опасность. Большие языковые модели, такие как ChatGPT, могут выдумывать факты.
В юридической сфере такая ошибка может обернуться катастрофой: судебными разбирательствами, неправильно заключенными контрактами или потерей шансов на справедливость.
Что делать
Европейский Союз уже предлагает законодательные инициативы: новый закон об ИИ потребует, чтобы все тексты, сгенерированные машинами, были соответственно маркированы.
Но одного закона мало. Нужно научить людей задавать правильные вопросы: кто создал этот совет? Можно ли ему доверять? Какие ограничения имеет ИИ? И всегда помнить о перекрестной проверке важной информации через настоящих экспертов.
Мир меняется быстрее, чем мы успеваем это осознать, а ИИ на самом деле является прекрасным помощником. Но не стоит позволять ему стать судьей в делах, от которых зависит будущее.
Источник: The Conversation