FORSMILE
EN
AI2026/11/21

Airbnbの「AI学習の前に個人情報を消す仕組み」:Presidioを土台に、名前や住所を本物らしい別の値へ置き換え、検出は言語ごとに測る(図では日本語の人名・地名が弱く示された)

Airbnbのエンジニアリングブログが2026年11月17日、AIの学習に使う文章(メッセージ・レビュー・サポートの会話)から個人情報を取り除く仕組みを公開しました。Presidioを土台に、名前や住所を本物らしい別の値へ置き換え、除去済みの印が本番反映の関門になる設計です。図では日本語の人名・地名の検出が弱く示されています。構成と、数値が出ていない点を整理します。

← ブログ一覧へ / Back to Blog

Airbnbのエンジニアリングブログが2026年11月17日に、AIモデルの学習に使う文章から個人情報を取り除く仕組みを紹介する記事を公開しました。副題は、メッセージ・レビュー・サポートの会話から、モデルに渡す前に個人データを見つけて置き換える方法を説明する、という内容です。取り除くだけでなく、名前や住所を本物らしい別の値に置き換えて、学習に役立つ文章のまま残すのが特徴です。土台には、Microsoftが作り、最近コミュニティ運営に移ったオープンソースのPresidioを選び、Airbnb向けの検出器と置き換えのルール、各チームが使える共通の部品、品質を測る基準を足した、と書かれています。

先に、数字の読み方を分けます。この記事には、検出精度・処理量・コストの数値が出てきません。精度は、言語と情報の種類ごとの一覧図で、円の塗りの大きさと色で示されるだけです。そのため下では、ブログで確認できる構成と設計判断を中心に整理し、図から読み取れることと読み取れないことを分けて書きます(Airbnbの記載)。

何を守り、何を置き換える仕組みか

  • ▸対象:機械学習モデルの学習に使う取引情報。Airbnbは「いま取引の情報をモデルの学習に使っている」と書き、その前に個人を特定できる情報(PII)を取り除く目的を、「情報の複製を減らすこと」と「モデルの中や、モデルを通じた漏えいを防ぐこと」としています。副題が挙げる文章は、メッセージ・レビュー・サポートの会話です
  • ▸何がPIIか:Airbnbは、名前やカード番号のようによく使う項目から、正確な位置情報のようにあまり使わない項目まで、共通の分類を持っていると書いています。この記事が扱うのは、文章の個人情報除去です
  • ▸方針とコード:プライバシーに関する判断は、まず方針として決まります。方針は、プライバシー設計のチームが保ち、法務・ポリシー・エンジニアリングが加わります。エンジニアリングが、その決定をコードとして実装します
  • ▸消さずに置き換える理由:Airbnbは、PIIを取り除いて、できるだけ本物らしい模擬のデータに置き換えると書きます。目印の文字列(たとえば人名を表すタグ)は、何かを消したという合図そのものが、モデルが覚えてしまう型になりうる(誤った学習につながる)から、というのが理由です

ブログで確認できるアーキテクチャ(土台と配り方)

  • ▸土台はPresidio:Microsoftが作り、最近コミュニティ運営に移ったオープンソースのライブラリです。選ぶときの要件として、①自社のサーバー内(オンプレミス)で動かせる ②汎用的で、部品の入れ替えがしやすい ③多言語に対応する ④個人情報の検出と置き換えを別々に扱いつつ、1つの枠組みに収められる ⑤削除・伏せ字・本物らしい置き換えに対応する ⑥同じ実行の中では、同じ名前が同じ偽の名前になる、の6つを挙げています
  • ▸見送った選択肢:クラウドの管理サービスは、自社のサーバー内ではないため。単独の固有表現抽出(NER、文中の人名や地名を見つけるモデル)は、解きたい問題の一部にしか対応しないため、と書かれています
  • ▸配り方:Presidioは、Pythonのパッケージとして、各パイプラインがそのプロセスの中で読み込みます。別のサービスを呼ぶ形ではないので、生の個人データは呼び出したプロセスの中で処理され、生のデータを抱える別のサービスがありません。中央のボトルネックもなくなる、とあります。必要になれば、同じライブラリをサービスに包めるので、この判断はやり直せる、とも書かれています
  • ▸代償と、その手当て:ライブラリは、すべてのパイプラインが、最新の版を、規則に合う設定で呼んだときだけデータを守れます。そこで、AirbnbのモデルがMLのワークフローを管理する共通の仕組みで学習されることを使い、ライブラリを再利用できるパイプラインの1ステップとして配っています。チームが渡すのは、どの列に個人データがあるかを示したスキーマだけで、検出器・置き換えの処理・言語の扱い・実行環境はAirbnb側が持ちます
  • ▸印と関門:結果のデータセットには「個人情報除去済み」の印を付け、その印はモデル登録簿(model registry)までついていき、本番への反映の関門になるよう設計されていると書かれています。実行のたびに、ライブラリの版と設定を記録するので、登録されたモデルから、元のデータセットまでたどれます。図では、学習の前に、除外の申し出を反映するフィルタ(opt-out filtering)と個人情報除去があり、最後の確認で印がなければ本番に出さない流れが描かれています
Airbnbの個人情報除去:検出・置き換え・印付けの流れと、検出器の種類、品質の測り方

検出(Analyzer)の中身

  • ▸2段階:Presidioは、文章を2段階で処理します。Analyzerが、個人データらしい範囲を見つけ、情報の種類(人名・電話番号など)と確信度を付けます。Anonymizerが、その範囲を何に置き換えるかを決めます。Airbnbが作ったものは、すべてこのどちらかの中にあります
  • ▸検出器は3種類:ブログは3種類を使うと書きます。1つはパターン型(形と、近くにある語で決める)、もう1つはNER型(モデルで決める)です。図にはこのほかに、外部サービスを呼ぶ型(RemoteRecognizer)も描かれていますが、本文では説明されていません。検出器は独立に動くので、同じ文字列を別々の検出器が取り合うことがあり、たとえばメールアドレスの中の物件IDです。重なりは、Analyzerではそのまま通し、Anonymizerで整理します
  • ▸言語の判定が前提:検出器とモデルは言語ごとなので、言語の判定が正確である必要があります。名前や住所は短く、言語の手がかりが少ないので、1件の文章全体か、あればロケールのメタデータから言語を決めます。どちらでも自信が持てないときは、間違った言語のモデルを使うリスクを取らず、より保守的な設定にします
  • ▸パターン型の工夫:Airbnb固有の種類(物件ID、ギフトカード)は、一般のモデルが知らないので、パターン型で作ります。数字だけの識別子は、形だけでは決められません(ギフトカード番号、Luhnアルゴリズムで検算できるクレジットカード番号、物件IDが同じに見える)。そこで、「listing」のような近くにある語(文脈語)が決め手になります。ただし標準の文脈判定は1語単位で、「gift card」のような2語の組が働かず、「card」だけだとクレジットカードの横でも働きます。そこで連続した複数語を順番に照合する処理(フレーズ判定)を足し、1語より高く採点するようにしました
  • ▸NER型の入れ替え:人名や住所は決まった形がなく、モデルに頼ります。Presidioの標準のspaCyは、速く、安く、訓練も要りません。ただ、都市や名所など地名を何でも拾い、人を特定するのは番地つきの住所です。Airbnbのベンチマークでは、そうした広い地名のタグが、住所の全体に届くことはありませんでした。そこで人名と地名の検出を、説明文を与えて探せるゼロショットのNERモデル(GLiNER)で作り直し、「地名」ではなく「番地つきの住所」を指定して探せるようにした結果、2つの種類で適合率が上がった、とあります。新しい候補としてGLiNER2も評価の枠組みに入れていて、評価で改善が出たときだけ採用する、と書かれています
  • ▸検出の設定は変えられる:確信度のしきい値と、探す種類の範囲は、検出器ごと・使う側ごとに決めます。学習用の生の文章を流すパイプラインは、低いしきい値にして、誤検出を許します。すでに人が確認したデータでは、余計な置き換えを減らすために、見落としを少し許す使い方もできます

置き換え(Anonymizer)の中身

  • ▸既定の動作では足りない:Presidioの既定の処理は、文章をプレースホルダーのトークンや空白だらけにします。ブログは、どちらも本物らしい文章より、後ろのモデルに伝わる情報が少ないと書きます。Anonymizerの作業の大半は、この差を埋めることでした
  • ▸処理の方式:図は5つの方式を並べています(置き換えタグ・削除・fakerによる偽の値・伏せ字・ハッシュ)。多くの種類では、fakerというライブラリで本物らしい偽の値を作ります。本物の名前を、別のもっともらしい名前にします。どの種類にどの方式を使うかは、モデルごと・用途ごとに変えられます。学習用の文章は、自然に読める偽の値が向き、人が確認する出力は、どんな種類の値だったか分かる伏せ字のほうが向く場合がある、とあります
  • ▸独自の偽値の作り方:①偽にしてはいけない一致があります。物件自身のURLは、利用する側がそのまま使う構造のデータで、一般のURL生成では他のサイトと区別できません。図では、自社ドメイン(airbnb.com)のURLは残し、外部のドメインは偽のURLに置き換えています。②ライブラリの前提が成り立たないことがあります。ロケール(言語と地域の設定)によってはカード会社の対応表が狭く、文章と同じ言語で偽のカード番号を作れないので、カード番号の偽造は、表が揃うロケールに固定しています。電話番号は、実在の国番号・市外局番を残して残りを偽にするには、構造を解析できるライブラリが要ります。識別子の形式に、予約された範囲や発行されない範囲があるときは、偽の値をそこから取り、実在の値とぶつからないようにします
  • ▸一貫していて、つなげられない:2つの性質を同時に満たす必要があり、互いに引っ張り合います。別の実行では、同じ入力から違う偽の値になること(偽の値が、2つの出力を結びつける指紋にならないため)。1回の実行の中では、同じ実在の値が必ず同じ偽の値になること(同じ人が1件の中に2回出てきたら、どちらも同じ偽の名前でないと、データのつじつまが合わない)。全体で共有する乱数では両立できないので、偽の値ごとに、実在の値と、実行ごとの秘密から種を作ります。実在の値と偽の値の対応表は保存しません
  • ▸表形式の列も同じ仕組み:識別子は、呼び出し側が渡すソルト(ハッシュの前に値へ混ぜる秘密)つきでハッシュにします。座標は、プライバシー側が決めた精度に切り詰めます。64ビットの内部ID(物件・予約などの数値キー)は、同じ桁数・範囲の有効なIDになる、形式を保つ暗号化(Format-preserving encryption)にかけ、除去後の表が元の表と同じスキーマ検査を通るようにします

品質をどう測っているか

  • ▸3つの軸:見つける力(再現率)、見つけたものが本当に個人データである割合(適合率)、パイプラインの規模での検出速度(処理速度)です。1つだけを最適化すると、予想できる形で壊れる、と書かれています。見落としは漏えいなので、再現率と適合率を天秤にかけるときは、再現率を重く見ます
  • ▸集計は言語×種類ごと:総合点には、いちばん大事な失敗が隠れるので、指標はすべて、情報の種類ごと・言語ごとに、ラベル付きの件数つきで報告し、ある種類が別の種類の範囲を取った回数の表も付けます。ある識別子が別の識別子の範囲を飲み込む場合と、検出器が単に見落とす場合では、直し方が違うからです
  • ▸製品そのものを測る:採点するのは、ライブラリが実際に出す、重なり整理のあとの範囲で、Analyzerの生の候補ではありません。電話番号のような形のZIPコードが、正しく検出された住所の中にあっても、出力には出ないので、電話番号の適合率には数えません
  • ▸同じ基準で入れ替えを決める:NERの実装を引数にしているので、spaCy・GLiNER・GLiNER2を、同じ正解データで並べて採点できます。いまGLiNERが人名と地名を担当している理由が、この比較です。新しい言語は、ラベル付きのデータが用意できてから採点して出します。穴が見つかれば基準のデータに足して基準を難しくし続け、リリース前は、本番の版と候補を並べて全体を走らせ、以前うまくいっていた言語・種類のどれも悪化していないときだけ出します

図で読み取れること、読み取れないこと(当サイトの見方)

  • ▸図の中身:ブログの評価の節に、言語6つ×情報の種類6つの一覧図があります。言語は英語・スペイン語・フランス語・ドイツ語・日本語・ポーランド語、種類はPERSON・LOCATION・EMAIL_ADDRESS・PHONE_NUMBER・CREDIT_CARD・LISTING_IDで、題は「F1 · entity × language」です。F1は、見落としと誤検出の両方を1つにまとめる、一般的な指標です
  • ▸読み取れるのは大小の関係だけ:メールアドレス・クレジットカード・物件IDは、6言語すべてで円がほぼ満ちています。人名と地名は、英語・スペイン語・フランス語・ドイツ語では緑でほぼ満ちていますが、日本語とポーランド語では赤で、円の欠けが大きく描かれています。電話番号は、日本語だけが少し欠けています
  • ▸読み取れないこと:円に数値の目盛りはなく、正確な割合は分かりません。図の左下には「Overall 9 / 10 looks healthy」という表示がありますが、何の10分の9かは本文で説明されていません。この図がAirbnbの実測の結果なのか、見せ方のための例なのかも、本文からは判断できませんでした。そのため、「日本語の人名・地名の検出が実際に弱い」と断定はできず、図ではそう示されている、という範囲にとどめます
  • ▸設計との関係(当サイトの読み):形で決まる種類は強く、文脈やモデルに頼る人名・地名が弱い、という図の傾向は、本文の設計(形が決まるものはパターン型、決まらないものはモデル型、新しい言語はラベル付きデータが揃ってから出す)と、辻褄が合います。ただし、本文に日本語を指した説明はありません

確認できなかったこと

  • ▸検出精度・誤検出率の具体的な数値。図に目盛りがなく、実測か例示かも、「9 / 10」の意味も、本文からは確かめられませんでした
  • ▸学習に使うデータの量、対象のモデル、どのチームが何を学習しているか。本文は「いま取引の情報で学習している」という範囲です
  • ▸処理速度とコストの数値。処理速度を測ると書かれていますが、値はありません
  • ▸学習から外す申し出(opt-out)の仕組み。図に「opt-out filtering」とあるだけで、本文に説明がありません
  • ▸日本語を含む、検出が弱い言語の改善の予定。本文にあるのは、新しい言語はラベル付きデータが揃ったら加えること、LLMを使った新しい検出器を足せる可能性、文章以外の他のメディアにも着手していること、までです
  • ▸3つ目の検出器(外部サービス型)が実際に使われているか。図に名前があるだけです
  • ▸読み取りの方法。Mediumのページは自動アクセスを受け付けなかったので、同じ記事のRSS配信の全文(配信日時は2026年11月17日18:01、世界標準時)と、図の画像で確認しました。公開後に記事が更新されたかどうかは確かめていません

この事例から持ち帰れること(当サイトの見方)

  • ▸「消す」と「本物らしく置き換える」は別の設計。学習に使う文章では、目印の文字列でもモデルに影響しうる、というのがAirbnbの理由です。置き換えるなら、同じ実行の中では一貫し、実行をまたぐと結びつけられない、という2つを同時に満たす設計が要ります。対応表を持たない方式(実在の値と、実行ごとの秘密から種を作る)が、その答えとして書かれています
  • ▸検出器の精度と同じくらい、配り方が大事。すべてのパイプラインが通る共通のステップ、除去済みの印、印がなければ本番に出せない関門、実行ごとの版と設定の記録までを、1つの設計として書いています。ライブラリを入れただけでは、全部のパイプラインが使うとは限らない、という前提です
  • ▸総合点で安心しない。言語ごと・種類ごとに測り、悪化がないときだけ出す、という運用は、弱い言語を総合点の陰に隠さないためです。日本語の文章を扱うなら、自分の文章で測る必要があります(当サイトの見方。Airbnbの数値ではありません)
  • ▸自分の投稿やメッセージが学習に使われうるサービスでは、除去が行われるか、除外を申し出られるかを、そのサービスの規約や設定で確認します。この記事はAirbnbが自社の仕組みを説明したもので、他のサービスも同じことをしているとは言えません

根拠にしたページ

Related articles
メルカリの商品カタログ連携:変換ルールをGoのコードからプロンプトへ移し、プロンプト作りもエージェントに任せた。連携件数は40倍以上、工数は約55%減(メルカリの記載、導入前後の比較)2026/11/13Pinterestの「目的推定」AI:行動ログから目的の名前を書く4B小型モデル。大型モデルから蒸留し、旧方式比でメールのクリック1.1%増(相対か絶対かは未記載)2026/11/11UberのAI契約レビュー「Legal Redlining Agent」:Wordで相手の修正に承諾・拒否・修正を提案し、弁護士が全件を決める構成(同社は審査時間の20%超の短縮と記載)2026/10/29NetflixのAI審査員(LLM-as-a-Judge):AIが書いた説明文をAIが採点し、基準づくりから変更の承認まで人が握り続ける4段階(成果の数字は未公表)2026/10/21SalesforceのインフラAIエージェント:プロンプトを足しても安定せず、「推論と計算を分ける」ことで信頼性を出した(成果の数字は未公表)2026/10/13