Звіт, підготовлений під керівництвом міністра охорони здоров'я і соціальних служб США Роберта Кеннеді-молодшого, мав на меті з'ясувати причини скорочення тривалості життя американців. Деякі з цитат, які підкріплюють науку в масштабній «Доповіді МАХА» Білого дому, схоже, були згенеровані за допомогою штучного інтелекту, що призвело до численних спотворених наукових посилань і вигаданих досліджень, заявили в четвер експерти в галузі штучного інтелекту. Про це пише The Washington Post.
З 522 виносок на наукові дослідження в початковій версії доповіді, надісланій до The Washington Post, щонайменше 37 з'являються кілька разів, згідно з оглядом доповіді, зробленим The Post. Інші посилання містять неправильних авторів, а кілька досліджень, на які посилаються у великому звіті про стан здоров'я, взагалі не існують, про що вперше повідомило інтернет-видання NOTUS у четвер вранці.
Деякі посилання містять позначку «oaicite», прикріплену до URL-адреси, що є безсумнівною ознакою того, що дослідження було зібрано за допомогою штучного інтелекту. Наявність «oaicite» є маркером, що вказує на використання OpenAI, американської компанії зі штучного інтелекту.
Загальною ознакою чат-ботів зі штучним інтелектом, таких як ChatGPT, є незвично повторюваний контент, який звучить не по-людськи або є неточним, а також тенденція до «галюцинацій» досліджень або відповідей, які здаються розумними, але не є реальними.
Технологія штучного інтелекту може бути використана на законних підставах для швидкого огляду досліджень у певній галузі. Але Орен Етціоні, почесний професор Вашингтонського університету, який вивчає ШІ, сказав, що він був шокований недбалістю у звіті MAHA.
«Відверто кажучи, це неякісна робота. Ми заслуговуємо на краще», — сказав він.
«Звіт MAHA: Зробимо наших дітей здоровими знову», в якому розглядаються першопричини відставання Америки у сфері охорони здоров'я, був написаний комісією, що складалася з урядовців та урядових наукових лідерів. Звіт очолював міністр охорони здоров'я і соціальних служб Роберт Ф. Кеннеді-молодший, який має історію спотворення наукових даних, і був написаний у відповідь на виконавчий указ президента Дональда Трампа.
У ньому звинувачується вплив токсинів навколишнього середовища, погане харчування і збільшення часу, проведеного перед екраном, у скороченні тривалості життя американців.
Одне з посилань у початковій версії звіту містило посилання на дослідження під назвою «Надмірне призначення пероральних кортикостероїдів дітям, хворим на астму», щоб підкріпити ідею про те, що діти перенасичені ліками. Але цього дослідження, схоже, не існувало. Існує схожа стаття в «Педіатрії» за 2017 рік з тим самим першим автором, але з іншими співавторами. Пізніше в четвер у версії звіту, доступній в інтернеті, цю статтю з педіатрії замінили на очевидно неіснуюче дослідження.
Стаття, на яку посилається U.S. News & World Report про час перерв і фізичних вправ у дітей, спочатку цитувалася двічі на підтримку тверджень про зниження фізичної активності серед американських дітей, причому один раз лише з частиною посилання на неї. У ньому були вказані Млинек, А. та Шпігель, С. як різні автори. Жоден з них не посилався на Кейт Рікс, яка написала статтю. Ані Млинек, ані Шпігель, схоже, не є справжніми репортерами видання. Станом на вечір четверга Рікс була замінена в якості автора в одному з посилань у версії звіту, доступній в інтернеті.
Майже половина з 522 посилань у початковій версії звіту містила посилання на статті або дослідження. Але проведений Post аналіз усіх посилань у звіті виявив, що щонайменше 21 з цих посилань були непрацюючими.
Колишній губернатор і нинішній кандидат на посаду мера Нью-Йорка Ендрю М. Куомо потрапив у полеміку минулого місяця після того, як у звіті про житлову політику, який він опублікував, було використано ChatGPT і спотворено посилання. Адвокати зіткнулися з санкціями за використання неіснуючих посилань на справи, створені ChatGPT, у юридичних записках.
За словами Джорджа Бенджаміна, виконавчого директора Американської асоціації громадського здоров'я, спотворені наукові цитати свідчать про низьку науковість і підривають довіру до звіту.
Відповідаючи на запитання про неіснуючі цитати на брифінгу в четвер, прессекретарка Кароліна Левітт сказала, що Білий дім «повністю довіряє міністру Кеннеді та його команді в Міністерстві охорони здоров'я».
У якийсь момент між 13:00 та 14:30 у четвер файл звіту MAHA Report на сайті Білого дому було оновлено, щоб видалити згадки про «виправлені гіперпосилання» та один з маркерів «oaicite». Інший маркер «oaicite», прикріплений до статті New York Times Wirecutter про дитяче харчування, все ще був присутній в документі, поки його не видалили в четвер увечері. Білий дім продовжував оновлювати звіт до ночі.
Кеннеді вже давно пообіцяв використовувати ШІ, щоб зробити американську охорону здоров'я кращою та ефективнішою, а нещодавно на слуханнях у Конгресі заявив, що навіть бачив прототип медсестри зі штучним інтелектом, «яка може зробити революцію в наданні медичних послуг у сільській місцевості».
Пітер Лур'є, президент некомерційного Центру науки в інтересах суспільства, сказав, що його не здивувала присутність у звіті можливих маркерів ШІ. Лур'є сказав, що попросив своїх співробітників розібратися в цьому питанні після того, як помітив, що в звіті є посилання на один з інформаційних бюлетенів його організації, але в якості авторів вказані Міністерство сільського господарства США і Міністерство охорони здоров'я США.
Стівен П'янтадосі, професор психології та неврології Каліфорнійського університету в Берклі, вважає, що в сучасному ШІ є багато підводних каменів, які «із задоволенням вигадують цитати».
Раніше «Пост» повідомляв, що деякі висновки документа виходять за межі науки. Кілька розділів пропонують оманливе представлення висновків, зроблених у наукових роботах.
Читайте також
