「Not」の定義：AIに「やってはいけないこと」を教える

生成AIは「嘘」をつきます。悪意はなくとも、確率的に言葉を繋ぐ過程で、存在しない論文やもっともらしい数値を平気で捏造します。研究者として致命的な失敗を防ぐため、AIに必ず入力すべき禁止命令をリストアップしました。

導入：AIの「親切心」が招く研究不正のリスク

生成AIを活用して申請書を作成する際、最も警戒すべきはAIの「過剰なサービス精神」です。AIはユーザーの問いかけに対して、「答えられない」と言うよりも、何とかして回答を作ろうとする傾向があります。その結果、文脈に合うもっともらしい嘘（ハルシネーション）を生成してしまうのです。

日常会話やメールの作成であれば、多少の不正確さは笑い話で済みます。しかし、科研費の申請書において、存在しない先行研究を引用したり、根拠のない数値を提示したりすることは、たとえ意図的でなくとも「捏造」とみなされかねません。これは採択・不採択以前の問題であり、研究者としてのキャリアを終わらせる致命的なリスクです。

多くの研究者は「良い文章を書かせる」ための指示（ポジティブ・プロンプト）には熱心ですが、「やってはいけないこと」を制限する指示（ネガティブ・プロンプト）の重要性を過小評価しています。AIを安全な「参謀」として機能させるためには、アクセルを踏む前に、確実なブレーキとガードレールを設定する必要があります。本記事では、研究者がAIに入力すべき必須の「禁止事項」を網羅的に解説します。