Допустимо ли е AI да пише научни статии?

[mnogoznaiko]

Бързото развитие на изкуствения интелект променя начина, по който учените подхождат към писането на научни публикации. Въпросът дали е етично да използваме ChatGPT и други генеративни AI инструменти при създаването на изследователски статии вече не е хипотетичен. Той стои в центъра на дебати между издатели, учени и етици по целия свят.

Nature, един от най-престижните научни списания, проведе мащабно проучване сред над 5,000 изследователи, за да разбере къде стоят научните работници по този спорен въпрос. Резултатите показват изненадващо разделени мнения и пропаст между политиките на издателите и практиките на учените.

Проучването на Nature разкрива сложна картина на етичните възгледи в научната общност. Докато повече от 90% от анкетираните смятат за приемливо да използват AI за редактиране или превод на свои статии, мненията се разделят рязко при по-субстантивни приложения.

Когато става въпрос за генериране на текст с AI, около 65% от респондентите го считат за етично приемливо. Една трета обаче се противопоставя категорично на тази практика. Още по-голямо разделение се наблюдава при използването на AI за писане на различни секции от научни статии.

Интересното е, че мненията не се различават значително според географското местоположение, областта на изследване или кариерния етап на учените. Това предполага, че разделението е фундаментално и не може да бъде обяснено с културни или професионални различия.

Един от най-поразителните резултати е пропастта между теоретичните възгледи и практическото поведение. Въпреки че голяма част от учените одобряват определени употреби на AI, малцина действително го използват в своята работа.

Само около 28% от анкетираните съобщават, че са използвали AI за редактиране на свои статии. Още по-малко - около 8% - са го използвали за писане на първа чернова, създаване на резюмета или превод. Най-малък е процентът на тези, които са използвали AI за рецензиране - едва 4%.

Още по-тревожно е, че когато изследователите действително използват AI, те често не го декларират. Това създава въпроси за прозрачност и доверие в научната общност, особено когато повечето издатели вече изискват разкриване на AI използването.

Коментарите на участниците в проучването разкриват дълбочината на етичните съображения. От една страна, някои изследователи виждат AI като естествена еволюция на инструментите, подобно на калкулатора. Те смятат, че декларирането скоро ще стане ненужно.

От друга страна, критиците сравняват използването на AI с измама и плагиатство. Изследователи от области като науките за Земята категорично отхвърлят възможността да приемат AI в научното писане, наричайки го "жалко мамене и измама".

Средното мнение подчертава опасността от прекомерно разчитане на AI. Учени като Даниел Иган от Университета в Кеймбридж предупреждават, че използването на AI може да ни лиши от възможността да се учим чрез ангажиране с трудоемките процеси на писане и анализ.

При разглеждането на конкретни приложения се забелязват интересни тенденции. Повечето изследователи намират за приемливо използването на AI за писане на резюмета на статии, но са по-скептични към генерирането на други секции.

Рецензирането с помощта на AI е особено спорно. Над 60% от респондентите смятат за неприемливо генерирането на първоначален доклад за рецензия с AI. Въпреки това, 57% приемат използването на AI като помощно средство за отговаряне на въпроси относно ръкописи.

Тази нюансирана позиция показва, че учените правят разлика между различните степени на AI участие. Пълното заместване на човешкия анализ се счита за неприемливо, докато подпомагането на човешката преценка се толерира.

Проучването разкрива интересни глобални модели. Изследователи от страни, където английският не е първи език, са по-склонни да използват AI, особено за превод и редактиране. Това подчертава потенциала на AI да премахне езиковите бариери в науката.

Младите изследователи показват по-голяма склонност както към одобрение, така и към използване на AI, особено за редактиране на статии. Това предполага, че бъдещето може да донесе по-голямо приемане на AI технологиите в научното писане.

Много от участниците споделят практически опит с ограниченията на AI. Проблеми като фалшиви цитати, неточни твърдения и "добре формулирани глупости" са често срещани оплаквания. Качеството на AI отговорите варира значително в зависимост от конкретния инструмент и начина на използване.

Тези практически съображения предполагат, че дори при етично приемане, AI все още има значителни технически ограничения, които пречат на широкото му приемане в научните среди.

Резултатите от проучването на Nature показват, че научната общност все още търси своето отношение към AI. Разнообразието от мнения и относително ниската употреба предполагат, че сме в преходен период.

Издателите продължават да разработват политики, а учените експериментират с различни приложения. Консенсусът все още не е постигнат, но диалогът е започнал и ще продължи да формира бъдещето на научното публикуване.

Ясно е, че AI ще играе роля в научното писане, но границите на тази роля все още се определят. Успешната интеграция ще изисква баланс между иновацията и етичните принципи, които са в основата на научната интегритет.

Статията се основава на мащабно проучване на Nature сред над 5,000 изследователи от цял свят Is it OK for AI to write science papers? Nature survey shows researchers are split, което разкрива сложните етични въпроси около използването на изкуствения интелект в научното писане.

[mnogoznaiko]

Как AI генерира фалшиви здравни изследвания

Тревожен тренд в научната литература

В научната общност се разгръща истински скандал - изкуственият интелект се използва за масово производство на над 300 нискокачествени научни статии в областта на здравеопазването. Това откритие разкрива сериозна заплаха за истинността на научните изследвания и може да подкопае доверието в медицинската наука.

Мат Спик, статистик от Университета в Съри, започва да забелязва странно подобни статии, които се появяват ежедневно за рецензиране в списанието Scientific Reports - понякога дори по две статии на ден. Всички тези статии са използвали данни от Националното изследване за здраве и хранене на САЩ (NHANES) - публично достъпна база данни със здравна информация от над 130 000 американци.

Цифрите са шокиращи: между 2014 и 2021 г. се публикувани средно по 4 такива статии годишно, но през 2022 г. те стават 33, през 2023 г. - 82, а само за първите 10 месеца на 2024 г. - 190 статии.

Всички тези статии са следвали един и същи модел: избират едно здравословно състояние, един фактор от околната среда или физиологията, който би могъл да бъде свързан с него, и една популационна група. Например - връзката между нивата на витамин D и депресията при мъже над 65 години, или между лошото зъбно здраве и диабета при жени между 18 и 45 години.

"Видяхме внезапна експлозия в процентите на публикуване на статии, които са изключително формулни и които лесно биха могли да бъдат генерирани от големи езикови модели", казва съавторът на изследването Мат Спик.

Още един тревожен модел се появява в данните: 92% от статиите, публикувани след 2021 г., са с първи автор, свързан с китайска институция, в сравнение с едва 8% от статиите, публикувани преди 2021 г.

Това време на промяна съвпада с широкото разпространение на AI чатботи като ChatGPT, които могат да генерират четим текст от прости подкани и качена информация. Експертите подозират, че се използват "фабрики за статии" - комерсиални организации, които продават авторство на измамни или нискокачествени научни работи.

Когато екипът разгледа по-внимателно 28 от изследванията за депресия, базирани на NHANES данни, установи, че само 13 от резултатите са издържали статистическа корекция, която компенсира риска от фалшиво положителни резултати.

Много от статиите са използвали "повърхностен и опростен подход към анализа", често фокусирайки се върху една променлива, игнорирайки по-реалистичните, многофакторни обяснения на връзките между здравословните състояния и потенциалните причини.

"Видяхме нарастване на статии, които изглеждат научни, но не издържат на проверка - това е 'научна фикция', използваща национални здравни бази данни, за да се маскира като научен факт", предупреждава Спик.

Тенденцията заплашва да претовари някои списания и рецензенти, което може да намали "способността им да оценяват по-смислени изследвания - в крайна сметка отслабвайки качеството на науката като цяло".

Изследователите предлагат няколко мерки за справяне с кризата:

Предварителна регистрация на изследванията: Изисква изследователите да регистрират дизайна на своето изследване преди достъп до NHANES или подобни данни - правейки по-трудно манипулирането на резултатите за целите на публикуването.

По-строги стандарти за рецензиране: Списанията трябва да засилят проверките за качество и да внимават за формулни изследвания.

Прозрачност при използването на AI: Изследователите трябва да декларират използването на изкуствен интелект в своите работи.

"Вярваме, че в ерата на AI научното публикуване се нуждае от по-добри предпазни мерки. Нашите предложения са прости неща, които биха могли да помогнат да се спрат слабите или заблуждаващи изследвания, без да блокират ползите от AI и отворените данни", заключава Спик.

Решаването на проблема изисква координирани усилия от страна на изследователи, издатели, рецензенти и регулаторни органи.

Източници:

1. Основното изследване: Suchak, T. et al. (2025). "Explosion of formulaic research articles, including inappropriate study designs and false discoveries, based on the NHANES US national health database." PLOS Biology. DOI: 10.1371/journal.pbio.3003152
2. Nature News: Harrison, R. (2025). "AI linked to explosion of low-quality biomedical research papers." Nature. https://www.nature.com/articles/d41586-025-01592-0
3. Science Magazine: "Low-quality papers are surging by exploiting public data sets and AI." Science. https://www.science.org/content/article/low-quality-papers-are-surging-exploiting-public-data-sets-and-ai
4. Times Higher Education: "Flood of AI-assisted research 'weakening quality of science'." https://www.timeshighereducation.com/news/flood-ai-assisted-research-weakening-quality-science
5. Профил на водещия изследовател: Matt Spick, University of Surrey. https://www.researchgate.net/profile/Matt-Spick

[insighting]

Преди 17 часа, mnogoznaiko said:

Бързото развитие на изкуствения интелект променя начина, по който учените подхождат към писането на научни публикации. Въпросът дали е етично да използваме ChatGPT и други генеративни AI инструменти при създаването на изследователски статии

Не е допустимо, но AI може да извършва помощни задачи. Всеки учен описва собственото си изследване.