과학 저널, AI가 생성한 '무의미한' 이미지가 포함된 동료 심사 논문 철회
오픈 액세스 과학 저널인 세포 및 발달 생물학의 프론티어 은 최근 이 출판사가 해부학적으로 잘못된 포유류 고환과 정자 세포의 횡설수설 설명과 도표를 포함한 논문 를 게재한 것을 본 연구원들이 소셜 미디어에서 공개적으로 비판하고 조롱한 후 이번 주에 이 출판사를 비난하는 글을 올렸고, 이는 인공지능 이미지 생성기로 만든 흔적이 있는 것으로 나타났습니다.
이 출판물은 이후 소셜 네트워크 X의 비평가 중 한 명인 이 인증된 계정에서 을 게시한 것에 대해 응답했습니다: “저희 기사를 면밀히 검토해 주신 독자들에게 감사드립니다. 저희가 잘못했을 때 오픈 사이언스의 크라우드소싱 역학은 커뮤니티 피드백이 기록을 신속하게 수정하는 데 도움이 된다는 것을 의미합니다.” 또한 웹사이트에 게재된 논문 “JAK/STAT 신호 경로와 관련된 정자 줄기세포의 세포 기능"을 삭제하고 철회 공지를 게재했습니다.
편집자와 해당 분야 전문가들의 검토 결과, 이 논문에서 제시된 AI 생성 이미지의 특정 측면이 저널의 엄격한 편집 및 과학 지침에서 요구하는 예상 수준의 정확성과 정밀도에 미치지 못한다고 판단했습니다. 그 결과 해당 기사의 공개를 철회하기로 결정했습니다.
이 철회에 대한 승인은 프론티어스 편집장이 내렸습니다. 이 문제를 제기해 주신 독자 여러분께 감사의 말씀을 드리며, 우려에 따라 적절한 조치를 취했습니다.
철자가 틀린 단어와 해부학적으로 잘못된 삽화
역사적 기록을 보존하기 위해 원본 내용을 그대로 재현했습니다.
자세히 살펴보면 그래픽 표현이 일관성 있고 다양한 구성 요소를 구분하는 데 사용된 선명한 색상으로 시각적으로 매력적으로 보이지만, 확대하면 수많은 오타가 눈에 띄는 것을 알 수 있습니다. 예를 들어, ‘단백질’이 아닌 ‘프로테멘스’가 사용되었고, ‘zxpens’라는 단어도 존재합니다.
이 논문에서 제기된 주요 우려 사항 중 하나는 생식 기관이 상당히 비대해진 ‘쥐’로 표시된 생물체의 묘사입니다.
Blasted on X
2024년 2월 13일 논문이 발표된 후 일부 학자들은 다양한 포럼에서 이 논문이 출판될 수 있었던 동료 심사 과정의 엄격성에 대한 우려를 표명했습니다.
드디어 이런 일이 일어났습니다. 동료 심사를 거친 학술지에 무의미한 인공지능이 생성한 이미지로 보이는 논문이 실렸습니다. 이건 위험합니다. pic.twitter.com/Ez54H6l7iZ
- ?Kareem Carr | 통계학자 ? (@kareem_carr) 2024년 2월 15일
앞서 언급한 학술 연구는 중국 시안에 위치한 시안교통대학 부속 홍후이병원 척추외과 소속 신유 구오와 딩준 하오, 그리고 시안 홍후이병원 척추외과 소속 량 동이 함께 집필한 글입니다.
이 논문은 다양한 지역의 저명한 연구자 두 명, 즉 인도농업연구위원회(ICAR) 산하 권위 있는 국립동물영양생리연구소 소속의 빈실라 크리쉬난 박사와 미국 노스웨스턴 의과대학 소속의 징보 다이 박사의 전문가 검토를 거쳤습니다. 또한 인도 ICAR 소속의 저명한 국립낙농연구소의 아루무감 쿠마레산의 꼼꼼한 편집을 거쳤습니다.
본 출판사는 영국 옥스퍼드 대학교의 저명한 현장 편집장인 아만다 게이 피셔와 함께 논쟁적인 작업과 관련된 모든 공동 저자 및 편집진을 대상으로 조사를 확대했습니다. 저희는 해당 사안에 대한 인사이트가 접수되는 대로 독자들에게 업데이트된 설명을 제공하기 위해 최선을 다하고 있습니다.
과학, 연구, 의학에 미치는 AI의 영향에 대한 광범위한 시사점
AI는 최근 언론(본 사이트 포함)에서 2백만 개의 새로운 물질 발견 을 긍정적으로 다룬 구글의 알파폴드 단백질 구조 예측기 및 재료 과학 AI GNoME 등 일부 업체를 통해 과학 연구 및 발견의 발전을 위한 유용한 도구로 선전되고 있습니다.
기존 도구는 주로 연구 과정을 촉진하는 데 초점을 맞추고 있지만, 출판과 관련하여 AI 이미지 생성기의 오용 가능성에 대한 우려도 간과할 수 없습니다. 특히 악의적인 행위자나 정확성에 대한 관심이 부족한 개인이 편의를 위해 이러한 기술을 제한 없이 활용하는 것에 대한 우려가 있습니다.
과학 삽화와 도표를 생성하는 데 인공 지능을 활용하면 과학계와 일반 대중 사이에서 정보의 신뢰성과 신뢰성을 훼손할 수 있다는 우려가 제기됩니다.이는 특히 우리의 웰빙과 건강에 큰 영향을 미치는 의학 및 생물학과 같은 중요한 학문 분야와 관련이 있습니다.
그러나 이는 또한 지난 수십 년 동안 과학계에서 생겨난 “출판 아니면 소멸"의 분위기 의 산물일 수도 있는데, 연구자들은 자신이 자신의 분야에 무언가 기여하고 있음을 보여주기 위해 가치가 거의 없는 논문을 서둘러 발표하고, 다른 사람들이 인용한 횟수를 늘려 미래의 일자리를 위해 이력서를 채워야 할 필요성을 느낀다고 증명해 왔습니다.
척추 수술을 수행하거나 전반적인 허리 건강 유지에 기여할 수 있는 자신의 능력에 자신감을 가질 수 있을까요?
114,000회 이상의 인용 횟수를 자랑하는 ‘세포 및 발달 생물학’ 저널은 최근 출판 전에 제대로 검토되지 않은 AI 생성 도표와 관련된 감독 문제로 인해 출판물의 품질 관리에 대한 비판에 직면했습니다. 비슷한 오류가 포함된 다른 원고도 동료 심사 과정에서 승인되었는지는 아직 명확하지 않습니다.
흥미롭게도 세포 및 발달 생물학의 프론티어스는 신경과학자 카밀라 마크람과 헨리 마크람이 2007년 에 설립한 230여 개의 다양한 과학 출판물로 구성된 더 넓은 프론티어스 회사의 일부이며, 전자는 여전히 CEO로 등재되어 있습니다.
우리 조직은 연구자의 요구 사항을 구체적으로 충족하는 최첨단 기술을 활용하면서 과학적 접근성을 높이고, 동료의 엄격한 평가를 통해 동료 심사 절차의 효율성을 높이며, 시스템 내 투명성을 높이고, 효율성을 최적화하는 것을 목표로 합니다. 또한 동료 심사에 대한 접근 방식의 일환으로 인공 지능을 구현했습니다.
연구 논문 심사를 위한 인공지능의 도입은 학술 출판 업계에서 중요한 이정표가 될 것입니다. 오픈 액세스 출판사 프론티어스에서 개발한 최첨단 인공지능 심사 도우미(AIRA)는 편집자, 심사자, 저자 모두를 지원하여 첨단 기능을 통해 원고의 평가를 용이하게 합니다. AIRA는 빠른 처리 속도를 활용하여 논문을 분석하고 언어적 품질, 그림의 진위 여부, 표절 식별, 잠재적 이해 상충 인식과 같은 측면을 포함하여 단 몇 초 내에 최대 20개의 권장 사항을 생성할 수 있습니다.
이 회사의 웹사이트에는 2018년 “AI와 머신러닝을 통해 동료 심사의 품질을 더욱 엄격하게 관리하고 효율성을 높일 수 있는 차세대 동료 심사"로 AIRA가 데뷔했다고 나와 있습니다.
그리고 지난 여름, 미르잠 에커트 프론티어스의 최고 출판 책임자가 출연한 기사 및 동영상에서 다음과 같이 언급했습니다:
프론티어스는 인공 지능을 활용하여 고급 인공 지능 검토 도우미(AIRA)를 통해 과학 정보 보급에 대한 신뢰를 높이기 위해 노력하고 있습니다. 이 혁신적인 도구는 원고의 동료 심사 및 출판 여부를 결정하기 전에 과학 데이터 표현의 정확성과 정직성을 보장합니다.
AIRA는 제출된 원고를 평가할 때 다각적인 접근 방식을 채택하여 빠른 속도로 종합적인 평가를 수행합니다. 당사의 시스템은 언어적 수준, 그림 및 이미지의 진위 여부, 표절 탐지, 잠재적 이해 상충 식별 등의 측면을 포함하여 초당 최대 20개의 검사를 수행합니다. 이러한 추가적인 조사는 편집진과 심사자에게 엄격한 기준과 투명성을 특징으로 하는 동료 심사 프로세스와 관련하여 정보에 입각한 결정을 내릴 수 있는 귀중한 통찰력을 제공합니다.
프론티어는 뉴욕타임스 및 파이낸셜타임스 와 같은 유명 매체에서도 AI 기사 검토 도우미 AIRA에 대해 호평을 받았습니다.
실제로 이 도구가 콘텐츠의 가짜 비주얼을 적절히 감지하지 못했기 때문에 동일한 도구를 사용하여 검수했다면 기사를 철회해야 할 필요성이 제기되었습니다. 또한, 이 사례는 오해의 소지가 있는 과학 데이터의 유포를 식별하고, 알리고, 방지하는 인공지능 시스템의 능력에 대한 우려를 강조하며, 이는 Frontiers 및 출판계에 속한 기타 기관에서 출판하는 것을 포함하여 학술 출판물 영역에 점점 더 널리 퍼지고 있는 문제입니다. AI와 같은 첨단 기술을 도입할 때는 사람의 개입이나 전통적인 미디어 형식 등 오랜 기간 검증된 방법에만 의존할 때와는 다른 내재적 위험이 수반된다는 점을 고려하는 것이 현명할 수 있습니다.
이 웹사이트는 이미지 생성 및 텍스트 처리와 같은 특정 측면에 인공 지능(AI) 기술을 사용합니다. 그러나 이 플랫폼에 게시되는 모든 콘텐츠는 대중에게 공개되기 전에 사람 편집자의 철저한 검토 과정을 거친다는 점에 유의하시기 바랍니다.이 특정 콘텐츠의 제작, 보도, 삽화 또는 배포 과정에서 AI를 활용하지 않았습니다.