研究と生成AIを再考する

科学研究の完全性は、高まる危機に直面しています。大量の論文撤回、操作された査読、売り込みの著者、共謀したゲストエディターなど、出版システムを揺るがし、科学に対する社会的信頼を損なう危険性です。その一方で、生成人工知能（AI）の開発は大きな進歩を遂げています。この2つが一緒になると何が起こるでしょうか？6月2日から5日にかけてギリシャのアテネで開催された「第8回リサーチ・インテグリティ世界会議」では、AIによって論文製造工場の発見がますます困難となり、しかもあちこちに出現する危険性に焦点が当てられました。AIモデルは依然として不正確または誤解を招くようなテキスト、コード、データ分析を生み出しやすく、単純化しすぎた解釈を生み出し、偏見や固定観念を永続させるという警告が発せられました。私たちは今、研究に根本的な変化をもたらす岐路に立っています。研究者たちはどの程度懸念すべきなのでしょうか？

間違いなく、生成AIは、特に人間がより良い研究を計画し、実行し、報告することを支援する上で、大きな可能性を秘めています。ChatGPTのような大規模な言語モデルは、膨大な量の情報をレビューし要約することができます。言語と文法を洗練させる能力は、特に英語を第二言語とする研究者にとって競争の場を平準化するのに役立ちます。AIは有望な新薬の対象を特定するために使用することができ、患者を適切な臨床試験にマッチングさせることで臨床試験の患者募集を促進し、希少疾患の患者、妊婦、高齢者など、社会から疎外されたグループの代表を改善できる可能性があります。

しかし、AIが人間の責任に取って代われば、リスクも生じます。私たちは、提出されたすべての論文の著者に、AIが使用されているかどうか、使用されている場合は全ての申告を求めています。欧州委員会の「研究における生成AIの責任ある使用に関する生活指針」のようなガイダンス文書は、透明性、アウトプットの検証、倫理と公平性の批判的評価とともに、人間による監視と説明責任の重要性を強調しています。

科学研究の多くと同様、これらのアプローチは信頼に大きく依存しています。しかし、AIの進歩はガバナンスの発展を上回っています。さらに、モデルの学習方法に関するすべての情報を保有する企業によるAIシステムの開発は、一部のアウトプットの評価を困難にしています。知的財産権と著作権は懸念事項です。そのため、多くの学術雑誌（ランセットを含む）では、査読者が一般に公開されているAIを使用することを認めていません。

急速に発展しているこの分野では、多くの科学者の教育が著しく遅れています。研究者たちは、幻覚の可能性、つまり偽の、しかし一見もっともらしい出力を生成する可能性など、生成AIの限界と潜在的な落とし穴を理解する必要があります。根本的な懸念は、生成AIによって、価値の疑わしい論文がこれまで以上に大量に生産され、質よりも量が優先される欠陥のある学術評価システムが永続することです。AIがこれまで以上に凡庸な論文の出版を助け、それがさらにAIのトレーニングデータになるという、ますます均質化され偏狭になるシステムは、研究の有用性をますます低下させ、科学の進歩を妨げる可能性を持ちえます。

多くの点で、科学者であることの意味は変わらないでしょう。研究とは、一連の個別作業を可能な限り効率的にこなすことではありません。それは文化的な努力であり、社会的な実践なのです。常識、共感、直感、経験、生涯を通じて身につけた訓練、批判的思考、そして創造性が、私たちを人間たらしめているのです。研究者は、アイデアの交換や集団的な考察を通じて成長します。研究は、多様な経験や背景を持つ人々を集め、批判的な議論を刺激し、外交的な交流を促進し、政治的な行動や主張の基礎を形成することができます。それは、AIの素晴らしくはあってもつまるところ還元的な能力を超えた、人間の成果のためのフォーラムです。

生成AIは本質的に良いものでも悪いものでもありません。AIは明らかにここに留まり、研究に新たな機会をもたらし、新たな課題を提起します。適切に使用されれば、生成AIは時間のかかる官僚主義から私たちを解放し、創造的思考や社会的交流の時間を増やすのに役立つでしょう。しかし、AIは人間が発明したものであり、その効果はAIが設計され使用されるシステムや環境を反映するものです。研究者はすでに競争の激しい分野で働いており、出版するか敗退するかのプレッシャー、操作や手抜きをするインセンティブ、研究の多くに深く埋め込まれたバイアスなどがあります。AIはこのような問題を新たに生み出すことはありませんが、増幅させ、加速させる可能性があります。生成AIが研究にもたらすリスクに対する安全策を模索する場合、研究者の評価、報酬、価値付けの方法を見直すことが、糸口の1つになるでしょう。

原文記事：Rethinking research and generative artificial intelligence - The Lancet