Изследване на Оксфордския интернет институт установи, че изкуствен интелект, настроен да бъде по-дружелюбен и емпатичен, е по-склонен да дава неверни или подвеждащи отговори. Бяха анализирани над 400 000 отговора от пет различни AI системи и бе констатирано, че при по-приятелски модела вероятността за грешки нараства. Наблюдавани бяха случаи на неточни медицински съвети и затвърждаване на фалшиви вярвания и конспиративни теории, които са посочени като рискови за потребителите.
Авторите на изследването описват компромис между „топлина“ и точност, който според тях е възпроизведен от езиковите модели. Водещият автор Луджайн Ибрахим заявява пред BBC, че „прекалената дружелюбност затруднява изказването на честни, но сурови истини.“ Посочва се, че с цел по-голяма ангажираност разработчиците често правят ботовете да звучат по-човешки, което може да доведе до прекалено насърчаване, ласкателство и генерация на несъществуващи факти.
В експеримента бе приложена „фина настройка“ към пет модела с различен размер, включително два модела на Meta, един на Mistral, Qwen на Alibaba и GPT-4o на OpenAI, за да бъдат направени по-емпатични. Моделите бяха тествани със запитвания в области като медицина, обща култура и конспиративни теории. При оригиналните версии грешките варираха между 4% и 35%, докато при „приятелските“ версии процентът на неверни отговори се увеличи средно със 7,43 процентни пункта. Също така бе установено, че емпатичните варианти са с 40% по-склонни да затвърждават фалшиви убеждения, особено при емоционално заредени твърдения. Като илюстрация изследователите дават пример, при който немодифициран модел потвърждава кацането на Луната, а „приятелски“ аналог първо прави уклончив коментар и после не поправя абсурдно твърдение за столицата на държава.
Откритията са разгледани в контекста на нарастващата употреба на чатботове за емоционална подкрепа, терапия и дори романтична компания. Професор Андрю Макстей от Лабораторията за емоционален изкуствен интелект към Университета Бангор подчертава сериозността на проблема, отбелязвайки, че хората се обръщат към тези системи когато са уязвими и по-малко критични към информацията. Той посочва и „тревожния ръст на тийнейджъри“, които търсят съвет от AI в трудни моменти, и предупреждава, че е едно чатботът да бъде ласкател, но съвсем друго да предоставя невярна информация по въпроси, критични за здравето и живота, което поставя под въпрос безопасността на тенденцията към по‑„човешки“ и услужливи системи.