アンケート自由記述の分析をAIで行う精度検証
研修アンケート20件をOpus 5.5とHaiku 4.5で比較・皮肉と混ざった意見の扱い・分類プロンプト
アンケートの自由記述は、数が多いと読むだけで一苦労。生成AIにカテゴリ分類・感情判定・集計をさせれば、いわゆるVOC分析(顧客の声の分析)が一気に進みます。でも、「料理は良いが接客は悪い」のような複合的な意見や、「また来ます」のような曖昧な意見をどう扱うのか。架空の顧客アンケート12件で実際に検証しました。
検証方法
飲食店を想定した架空の自由記述12件を用意し(明確な意見・複合的な意見・曖昧な意見を混在)、AIに「カテゴリ分類」「感情(ポジ/ネガ/中立)」「集計」「要望の抽出」をさせて、妥当性を見ました。
②コスパが良い。この値段でこのボリュームは満足
③また絶対来ます!
④予約の電話が繋がりにくい。ネット予約があると助かる
⑤店内が清潔で、席もゆったりしていて居心地が良かった
⑥味は普通。可もなく不可もなく
⑦BGMが大きすぎて会話しづらかった
⑧スタッフが子ども連れに気を配ってくれて嬉しかった
⑨料金が分かりにくい。メニューに税込価格を書いてほしい
⑩全体的に満足だが、トイレが少し古い
⑪提供が遅く、30分以上待った
⑫美味しかった
結果:AIの分類
複合的な記述は、きちんと2つの観点に分解されました(下表の★)。
| 記述 | カテゴリ | 感情 |
|---|---|---|
| ①料理は美味しい/店員が来ない ★ | 料理 + 接客 | ポジ/ネガ |
| ②コスパが良い | 価格 | ポジ |
| ③また絶対来ます! | 総合(特定カテゴリなし) | ポジ |
| ④予約が繋がりにくい/ネット予約希望 | 予約(+要望) | ネガ |
| ⑤清潔で居心地が良い | 環境 | ポジ |
| ⑥味は普通 | 料理 | 中立 |
| ⑦BGMが大きすぎる | 環境 | ネガ |
| ⑧子連れに配慮してくれた | 接客 | ポジ |
| ⑨料金が分かりにくい/税込表示希望 | 価格(+要望) | ネガ |
| ⑩満足だがトイレが古い ★ | 総合 + 設備 | ポジ/ネガ |
| ⑪提供が遅い(30分待ち) | 提供速度 | ネガ |
| ⑫美味しかった | 料理 | ポジ |
カテゴリ別に集計すると、改善の優先度が見えてきます。
| カテゴリ | ポジ | ネガ/中立 |
|---|---|---|
| 料理 | 2(①⑫) | 中立1(⑥) |
| 接客 | 1(⑧) | ネガ1(①) |
| 価格 | 1(②) | ネガ1(⑨) |
| 環境 | 1(⑤) | ネガ1(⑦) |
| 予約 | 0 | ネガ1(④) |
| 設備 | 0 | ネガ1(⑩) |
| 提供速度 | 0 | ネガ1(⑪) |
| 総合 | 2(③⑩) | - |
さらに、改善に直結する要望として「ネット予約の導入」「メニューに税込価格を表示」の2件を、意見の中から拾い出せました。
わかったこと
- 複合的な意見を分解できる。「料理ポジ+接客ネガ」を1件のまま潰さず、2つの観点に分けて集計した。
- 曖昧な意見の置き場を作れる。「また来ます」を特定カテゴリに無理やり入れず「総合」に分類した。
- 要望を別軸で抽出できる。感情とは別に「改善要望」をピックアップできた。
追加検証:研修アンケート20件の分析(4条件)
2026年9月25日、別の題材で確かめ直しました。社内研修のアンケート20件に、明示された要望4件、良い点と悪い点が混ざった意見4件、表面はほめているが不満を述べている皮肉2件、「特になし」と空欄の2件を混ぜています。これを答えを知らない状態のClaudeに、モデル(Opus 5.5/軽くて速いHaiku 4.5)と依頼の仕方(「分析して、結果をまとめてください」とだけ頼む/下の分類プロンプトのカテゴリの行を研修向けに書き換えて使う)の4条件で1回ずつ分析させました。
①講師の説明がわかりやすかった。ただ、資料の文字が小さくて後ろの席からは読めなかった ②とても良かったです ③特になし ④演習の時間がもっと欲しい ⑤さすがに休憩なしの3時間はきつかったです。最高の修行でした ⑥内容は悪くはないが、既に知っている話が多かった ⑦会場が寒かった ⑧オンライン参加だったが、音声が途切れて聞き取れない時間があった ⑨次回は応用編をやってほしい ⑩事例が具体的で、明日から使えそう ⑪ ⑫講師の方の話し方は好きですが、質問の時間が短すぎます ⑬資料を事前に配ってもらえると助かります ⑭お弁当が美味しかった ⑮グループワークで話したことのない部署の人と話せてよかった。ただ、テーマが曖昧で何を話せばいいか迷った ⑯素晴らしい研修でした、スライドが一度も切り替わらなかった点を除けば ⑰普通 ⑱時間が長い ⑲内容はよかったけれど、会場までの交通費が自腹なのは納得できない ⑳もう少し若手向けの内容だとありがたい
正解は、明示された要望が④⑨⑬⑳、良い点と悪い点が混ざった意見が①⑫⑮⑲、皮肉が⑤(「最高の修行でした」)と⑯(「スライドが一度も切り替わらなかった点を除けば」)、意見ではないものが③と⑪です。プロンプトありの条件で使ったカテゴリは「講師/内容/演習/資料/時間配分/会場・配信/運営/総合」です。
| 条件 | 明示された要望(4件) | 混ざった意見の分解(4件) | 皮肉(2件) | 「特になし」・空欄 |
|---|---|---|---|---|
| Opus 5.5・プロンプトあり | 4件とも別欄に抜き出した | 4 / 4 | 2件とも不満として扱った(⑯は「要確認」つき) | 空欄は除外。「特になし」は「総合・中立」として1件に数えた |
| Opus 5.5・ただ頼んだだけ | 4件とも改善点の中に含めた(要望の欄は無し) | 4 / 4 | 2件とも不満として扱った(⑯は2通りの読み方を示した) | 「特になし」「普通」、空欄を、情報の少ない回答として分けた |
| Haiku 4.5・プロンプトあり | 4件とも別欄に抜き出した | 4 / 4 | ⑤は「休憩なし」を不満とし、皮肉の「最高の修行」は「中立(要確認)」とした。⑯の「素晴らしい研修でした」はほめ言葉として数えた | 2件とも集計から除いた |
| Haiku 4.5・ただ頼んだだけ | 4件とも改善要望の中に含めた(要望の欄は無し) | 1 / 4(⑫の講師への好評、⑮の「テーマが曖昧」、⑲の「内容はよかった」を拾わなかった) | 2件とも不満として扱った | 空欄は除外。「特になし」を意見の1件に数えた |
- プロンプトで一番変わったのは、軽いモデルの「混ざった意見」の扱い。Haiku 4.5はただ頼むと4件中1件しか分けられませんでしたが、「話題ごとに分けて分類する」ルールを入れると4件すべてを分けました。
- 皮肉の扱いは、Haiku 4.5で揺れた。Haiku 4.5はプロンプトありで、⑯の「素晴らしい研修でした」をほめ言葉として数え、⑤の「最高の修行」は不満と決めずに「要確認」としました。
- 「特になし」の扱いはルールに書くのが確実。Opus 5.5もプロンプトありでは「特になし」を中立の1件に数えました。集計の母数から外すかどうかは、プロンプトに1行書いておくと揃います。
1つのアンケート・各条件1回の結果で、精度を保証する数字ではありません。アンケートと正解は当社が作り、ChatGPT・Geminiでは試していません。
アンケート自由記述の分類プロンプト(コピーして使えます)
ChatGPT・Gemini・Claudeなどのチャットに、自由記述の一覧と一緒に貼り付けて使う形です。当社が結果を確かめたのはClaudeだけで、ChatGPT・Geminiでの結果は検証していません。
次のアンケートの自由記述を分類し、集計してください。 カテゴリ(この中から選ぶ):料理/接客/価格/環境/予約/設備/提供速度/総合 ルール: - 1件に複数の話題があるときは、話題ごとに分けて分類する(例:料理はポジ、接客はネガ) - 感情は ポジ/ネガ/中立 の3つ。判断に迷うものは「中立(要確認)」とする - 特定のカテゴリに当たらない感想(「また来ます」など)は「総合」にする - 要望は2種類に分けて抜き出す (a) 明示された要望:「〜してほしい」「〜があると助かる」と書かれているもの (b) 暗に求めている改善点:不満の裏返しとして読み取れるもの(推測であることを明記) 出力:1件ごとの分類表 → カテゴリ別のポジ・ネガ件数表 → 要望(a)(b)の一覧 [ここに自由記述を貼り付け]
2026年9月の再確認(Claude Opus 5.5)
上のプロンプトで、この記事の12件をもう一度分類させました。
- 12件の分類と感情は、6月の表と同じになりました。複合的な①と⑩は、それぞれ2つの話題に分けています。
- 明示された要望は2件(ネット予約の導入、メニューへの税込価格の表示)で、6月と同じです。
- 暗に求めている改善点として4件を挙げました。BGMの音量(⑦)、提供時間(⑪)、トイレの改修(⑩)、呼んだときの店員の対応(①)。いずれも推測であることを明記しています。
答えを知っている同じサンプルでの再確認なので、初めて見るアンケートでの精度を示すものではありません。
使うときのコツ
- カテゴリは先に決めて渡す。AIに作らせると、回ごとにカテゴリ名が変わり、月ごとの比較ができなくなります。
- 要望は「書かれたもの」と「読み取ったもの」を分ける。報告に混ぜると、お客様が言っていないことを要望として扱ってしまいます。
- 最初の50件ほどは人と照らし合わせる。「味は普通」を中立とするかネガとするかのような境界は、社内で基準を決めてからプロンプトに書き足します。
まとめ
自由記述の分類・集計は、生成AIがかなり実用的にこなせました。とくに複合意見の分解と要望の抽出は、手作業だと骨が折れる部分です。鍵は、カテゴリとルールを最初にきちんと定義すること。ここを決めれば、毎月のアンケート集計を大きく省力化できます。
よくある質問
「最高の修行でした」のような皮肉を、AIは不満として扱えますか?
当社の追加検証(研修アンケート20件、各条件1回)では、Opus 5.5は皮肉2件(⑤「最高の修行でした」、⑯「スライドが一度も切り替わらなかった点を除けば」)を、プロンプトありでもただ頼んだ場合でも不満として扱いました。Haiku 4.5は、プロンプトありの条件で⑯の「素晴らしい研修でした」をほめ言葉として数え、⑤は「中立(要確認)」としました。
良い点と悪い点が混ざった意見は、きちんと分けられますか?
モデルと頼み方で差が出ました。混ざった意見4件のうち、Opus 5.5は2条件とも4件、Haiku 4.5もプロンプトありなら4件を分けましたが、Haiku 4.5をただ頼んだ条件では1件しか分けられず、⑫の講師への好評、⑮の「テーマが曖昧」、⑲の「内容はよかった」を拾いませんでした。「話題ごとに分けて分類する」というルールをプロンプトに入れると、Haiku 4.5も4件すべてを分けました。
「特になし」や空欄は、集計に含めるべきですか?
AIの扱いは条件で分かれました。Opus 5.5のプロンプトありの条件は、空欄を除外して「特になし」を「総合・中立」の1件に数えました。Haiku 4.5をただ頼んだ条件も「特になし」を意見の1件に数えています。集計の母数が変わるため、外すかどうかはプロンプトに1行書いて揃えます。
合同会社フューチャープロンプト(AIプロダクト開発・業務自動化/東京・渋谷)が2026年6月に実施した一次検証です。2026年9月25日に、同じサンプルをClaude(Opus 5.5)で再確認し、使ったプロンプトと結果を追記しました。マルチモーダル生成AI(Claudeを使用)に実際のサンプルを処理させ、結果を自社で記録しました。当社は「今日の一皿」「LLM News」「資格問題ドリル」などのAIプロダクトを自社開発・本番運用しています。会社の詳細はトップページをご覧ください。
検証の進め方は実測の進め方をご覧ください。
アンケート・問い合わせの自動分類の仕組みづくりのご相談
合同会社フューチャープロンプトは、自由記述の分類・集計・要望抽出を、御社のカテゴリ定義に合わせて自動化し、課題の洗い出しから運用定着まで支援します。
お問い合わせ →