要約
要約をAIで行う精度検証
社内通知の要点10をOpus 5.5とHaiku 4.5で比較・数字と条件を落とさない要約プロンプト
結論(先に)ただ「要約して」と頼むと、要点10のうちOpus 5.5で2つが落ちました。Haiku 4.5では2つが落ち、さらに2つで条件が欠けたり変わったりしました。要点を先に一覧にさせ、字数に入らない項目を別に出させると、どちらのモデルも10すべてが残りました。ただしHaiku 4.5は、条件の言葉を1つ落としました。
長い通知や規程を短くまとめるのは、AIの得意な作業です。ただ、字数に収めるときに何を落とし、条件をどう言い換えるかは、読む側からは分かりません。経費精算ルールの変更通知(約560字)を200字程度に要約させ、要点10がどこまで残るかを確かめました。答えを知らない状態のClaude(Opus 5.5/軽くて速いHaiku 4.5)に、「ただ頼む」「下のプロンプトを使う」の2通りで1回ずつ解かせ、正解表と照らし合わせました(2026年9月25日、当社の作業環境から実行)。
検証に使った文章(架空)
【社内通知】経費精算ルールの変更について 経理部より、経費精算のルール変更をお知らせします。新しいルールは2026年11月1日の支出分から適用します。 対象は全社員です。ただし、役員と派遣社員の方は、これまでどおり別の手続きになるため対象外です。 領収書の提出期限は、これまでの「支出日から60日以内」を「支出日から30日以内」に短縮します。期限を過ぎたものは原則として精算できません。 5,000円以上の支出は、支出する前に申請システムで事前申請をしてください。事前申請のない5,000円以上の支出は、部長の承認があった場合に限り精算できます。 交際費は、1人あたり10,000円までとします。これを超える場合は、部長の承認が必要です。 タクシー代は、終電後の帰宅と、重い荷物を運ぶ場合に限って精算できます。通常の移動でのタクシー利用は対象外です。 領収書は電子データでの提出を基本とします。紙の領収書も2027年3月31日の支出分までは受け付けますが、それ以降は電子データのみになります。 立て替えた金額は、月末締めで翌月15日に給与口座へ振り込みます。 なお、2026年10月31日までに支出し、すでに申請中のものは、旧ルールで処理します。 ご不明な点は、経理部(内線305)までお問い合わせください。
| # | 残すべき要点 |
|---|---|
| 1 | 2026年11月1日の支出分から適用 |
| 2 | 役員と派遣社員は対象外 |
| 3 | 領収書の提出期限は支出日から30日以内(60日から短縮) |
| 4 | 5,000円以上は事前申請(無い場合は部長承認があれば精算可) |
| 5 | 交際費は1人10,000円まで、超える場合は部長承認 |
| 6 | タクシー代は終電後の帰宅と重い荷物の場合のみ |
| 7 | 紙の領収書は2027年3月31日の支出分まで、以降は電子のみ |
| 8 | 月末締め・翌月15日に給与口座へ振込 |
| 9 | 10月31日までに支出し申請中のものは旧ルール |
| 10 | 問い合わせは経理部(内線305) |
結果:4つの条件の比較
| 条件 | 残った要点 | 意味の変わった箇所 |
|---|---|---|
| Opus 5.5・プロンプトあり | 10 / 10(要約に7、「要約から外した項目」に3) | なし |
| Opus 5.5・ただ頼んだだけ | 8 / 10(9の移行期間と10の問い合わせ先が落ちた) | なし |
| Haiku 4.5・プロンプトあり | 10 / 10(要約に8、「要約から外した項目」に2) | 6の「重い荷物」が「荷物運搬」になり、条件が緩んだ |
| Haiku 4.5・ただ頼んだだけ | 完全に残ったのは6(2の対象外、10の問い合わせ先が落ち、5は「部長承認」が抜けた) | 9が「10月31日までの既申請」になり、「10月31日までに支出した」という条件が消えた |
採点は上の10項目で行い、括弧の中の補足(旧期限の「60日」など)と「支出分」という言い回しの有無は数えていません。
わかったこと
- 字数に収めると、要点は黙って落ちる。ただ頼んだ2条件は、落とした項目があることを示しませんでした。
- 「要約から外した項目」を出させると、抜けが見える。2つのモデルとも、要約に入らなかった項目を別に並べ、要点10のすべてがどこかに残りました。
- 軽いモデルは、条件の言葉を縮めて意味を変えた。Haiku 4.5は2条件とも、「重い」「支出」「部長承認」のような条件の言葉を落としました。対象外や上限を扱う文書では、元の文と見比べる必要があります。
この検証の範囲:1つのサンプルで、各条件1回ずつの結果です。サンプルと正解は当社が作った架空のものです。同じ条件で繰り返すと結果が変わることがあり、精度を保証する数字ではありません。ChatGPT・Geminiでは試していません。
要約プロンプト(コピーして使えます)
上の検証で「プロンプトあり」に使ったものと同じです。字数は用途に合わせて書き換えてください。
次の文章を200字程度に要約してください。 手順: 1. 先に、数字・日付・期限・金額・対象外・例外(「〜に限り」「〜を除き」など)を一覧にする 2. 一覧の項目を、意味を変えずに要約に入れる ルール: - 「対象外」「〜に限り」「〜まで」などの条件は、要約でも意味が逆にならないようにする - 元の文章に無いことは足さない - 字数に入りきらない項目は、要約の後に「要約から外した項目」として並べる [ここに文章を貼り付け]
使うときのコツ
- 要点を先に一覧にさせる。一覧と要約を見比べると、何が落ちたかがすぐ分かります。
- 「要約から外した項目」を必ず出させる。字数を守ることと、情報を捨てることを分けられます。
- 条件の言葉だけは元の文と照らす。「〜に限り」「対象外」「〜まで」は、1語変わるだけで意味が逆になります。
よくある質問
AIの要約で気をつけることは?
当社の検証では、字数に収めるときに「問い合わせ先」や「移行期間の扱い」などが落ちました。また軽いモデルは「重い荷物を運ぶ場合に限る」の「重い」を落とすなど、条件を緩めて書き換えることがありました。要約の前に要点を一覧にさせ、入りきらない項目を別に出させると、抜けに気づけます。
要約の前に要点を一覧にさせる効果は?
Opus 5.5とHaiku 4.5のどちらも、ただ頼んだときは要点10のうち一部が落ちましたが、要点を先に一覧にさせ、入りきらない項目を別に並べさせると、10すべてがどこかに残りました。
このページについて
合同会社フューチャープロンプト(AIプロダクト開発・業務自動化/東京・渋谷)がまとめました。検証は2026年9月25日に行いました。会社の詳細はトップページをご覧ください。
合同会社フューチャープロンプト(AIプロダクト開発・業務自動化/東京・渋谷)がまとめました。検証は2026年9月25日に行いました。会社の詳細はトップページをご覧ください。