Експерти предупреждават: Не се доверявайте на лечение, препоръчано само от ИИ

Все по-често моделите на изкуствен интелект дават медицински съвети, които могат да бъдат не само погрешни, но и опасни за потребителите. Учени от Станфордския университет предупреждават, че много чатботове вече не включват откази от отговорност при отговори на здравни въпроси – факт, който поражда риск хората да се доверяват на потенциално вредни препоръки.
„Малцина българи знаят, че на 2 август тази година влизат в сила ограничения за високорискови системи с изкуствен интелект, включително тези, свързани със здравеопазването“, коментира киберекспертът Християн Даскалов в студиото на „Твоят ден“.
Според него новият европейски регламент за изкуствения интелект ще направи подобни системи незаконни, ако не бъдат преминати тестове за безопасност и ако липсва прозрачност за данните, с които са обучени. „В България вече трябва да има звено, към което гражданите да могат да подават сигнали, ако такива системи са на пазара и дават безразсъдни съвети – но това все още не е направено“, добавя Даскалов.
Киберекспертът обръща внимание и на проблема с обучението на модели чрез синтетични данни, генерирани от други модели: „Човешкото знание, използвано за обучение, вече е изчерпано като обем. Сега все повече се използват изкуствено генерирани данни – което създава риск от т.нар. 'отравяне' на моделите и все по-манипулативни отговори“.
Даскалов подчертава, че изкуственият интелект не е по-опасен от неквалифицирани съвети в интернет форуми или социалните мрежи, но регулацията и киберхигиената са ключови. „50% от младите хора се доверяват повече на TikTok инфлуенсъри, отколкото на лекари. Затова въпросът не е да премахнем отговорността на ИИ, а да изградим правила и култура за безопасна употреба“, смята той.
Според него изкуственият интелект може да бъде полезен в комбинация с медицински специалисти, когато се използва за анализ на научни изследвания или за подпомагане на диагностика. „Когато лекар работи със сертифицирана система с изкуствен интелект, можем да бъдем спокойни – тогава технологията има реална добавена стойност,“ казва Даскалов.
Той обаче предупреждава, че прекомерното доверие в подобни системи може да намали критичното мислене на хората. „Колкото повече се доверяваме на ИИ за ежедневни решения, толкова повече намалява способността ни за критично осмисляне. Трябва да търсим и втора, и трета гледна точка, нещо, което тези системи не винаги ни дават“.