ZEN LAMP PROJECT
AppAI LiteracyToolsFictionMusicPapersFounderContact
FREE AI LITERACY RESOURCES

AIに聞く前に、
一歩だけ止まる。

AIは危険だから使うな、という本ではありません。AIが生活に深く入ってくる時代に、人間の判断を手放さないための小さな教科書です。

無料PDFをダウンロード一歩停止チェックシートエージェントAI実行前チェックEnglish Summary

一歩停止プロトコルとは

AIに聞く前、またはAIの答えを読んだ後に、事実・感情・推測を分け、自分が何を望んでいるのかを確認し、必要な判断を人間に戻すための生活の手順です。

  • いま本当に危険なのか
  • 何が事実で、何が感情で、何が推測なのか
  • AIの回答で怒りや不安が強まっていないか
  • AIだけで決めず、人間に戻すべきことはないか

AIは鏡である

AIは、こちらが渡した文脈を映し返します。しかし、鏡に映るものがすべてではありません。映っていない人、事情、時間、入力されなかった背景があります。

プロンプトは入口です。
コンテキストは地図です。

この冊子で扱うこと

  • AIは答えるが、責任は取らない
  • 魔法のプロンプトより、文脈が大切である
  • AIの答えだけで相手を悪玉にしない
  • 医療・介護・お金・契約は人間に戻す
  • AIリテラシーは操作方法ではなく、生活教育である
  • エージェントAI時代には、実行前の停止点が必要になる
  • 開発者側にも、安全に社会へ接続する設計が求められる

図解：AIに渡った情報と、渡らなかった情報

AIが見ているのは、現実そのものではなく、相談者が入力した一部です。片側の文脈だけを渡せば、片側の物語が整って返ってくることがあります。

AIに渡った情報と渡らなかった情報の図

エージェントAI時代に向けて

AIは「答える存在」から「動く存在」へ進み始めています。メールを送る、予約する、購入する、申請する、投稿する。こうした時代には、誤った文脈のまま現実の行動を実行してしまう危険があります。

AIが動く時代には、止まる力が必要になる。

開発者に求めたい安全設計

安全設計は、競争の足枷ではありません。AIが社会に信頼されるための投資です。AIの信頼性は、どれだけ多くを自動化できるかだけではなく、どこで人間に戻せるかによっても決まります。

Human Judgment Layer / Reflection Layer

ENGLISH SUMMARY

Before You Ask AI

A One-Step Pause Protocol for Human Judgment

Note: The current full PDF is available in Japanese. This English summary is provided for international readers, developers, educators, and AI safety discussions.

This is not an anti-AI booklet. AI is becoming part of our homes, schools, workplaces, healthcare, caregiving, contracts, public services, creative work, and everyday decision-making. That is exactly why we need a practical way to keep human judgment in the loop.

AI gives answers.
But AI does not take responsibility.

The core idea

AI is like a mirror. It reflects the context we provide: our words, emotions, assumptions, fears, and the facts we choose to include. But a mirror cannot reflect what is not in front of it.

If we give AI only one side of a situation, it may return a well-structured answer based on that one-sided context. It may sound reasonable and compassionate, but it may still be incomplete.

Prompts matter. But context matters more.

The One-Step Pause Protocol

From chat AI to agentic AI

In the age of chat AI, the risk is believing an answer too quickly. In the age of agentic AI, the risk becomes contextless execution: AI may send emails, make bookings, cancel appointments, purchase items, submit forms, publish posts, or operate workplace tools based on incomplete or distorted context.

The more AI acts,
the more it must pause.

A message for developers and platforms

AI performance will continue to matter, especially in medicine, science, disaster prevention, law, engineering, and other expert domains. But in everyday society, the limiting factor is increasingly not only model performance. It is whether humans can understand, contextualize, verify, and responsibly act on AI outputs.

Safety design should not be seen as a brake on innovation. It is a foundation for trust.

As AI becomes social infrastructure, we need systems that help humans keep judgment in the loop: context checks, emotional slowdowns, impact previews, reversibility warnings, high-risk action confirmations, human approval before execution, logs of AI suggestions and human decisions, and clear handoff to professionals and public support systems.

ZEN LAMP PROJECT calls this a Human Judgment Layer / Reflection Layer.

共有について

本冊子は、家庭、学校、職場、地域活動、医療・介護の周辺、AIリテラシー教育などで、自由に共有していただけます。内容の改変・切り抜き・商用利用を行う場合は、ZEN LAMP PROJECTまでご連絡ください。

※本冊子は、医療・法律・労務・契約等の専門判断に代わるものではありません。重大な判断は、必ず専門職・公的相談窓口・信頼できる人間に確認してください。