禁止語になった名前

八代苑子が退職前に担当した最後の更新は、交流アプリの禁止語フィルターだった。

深夜の反映後、問い合わせが急増した。利用者名を変更できない、投稿を保存できないという。同じ時間、後輩が作った検出率のグラフだけは、きれいに上がっている。止めた投稿数は成果として数えられるのに、戻ってこなくなった利用者はどの指標にも出なかった。

苑子は却下された投稿を開いた。闘病中の利用者が、仲間へ書いた〈病気なんか消えろ〉。フィルターは文脈を見ず、攻撃語の〈消えろ〉だけを拾っていた。別の利用者は、亡くなった家族の名前に含まれる二文字が禁止語と一致し、アカウント名ごと非表示になっている。追悼ページには写真だけが残り、返信欄では仲間たちが、名前を書けないまま〈あの人〉と呼びかけていた。長く続いていた追悼の記録まで、画面から一夜で消えていた。

「指示された単語を登録しただけです」

後輩は泣きそうだった。苑子は更新履歴を見せた。対象語を増やす決定には責任者の承認があるのに、影響を試す項目はない。

「あなたが人を消したんじゃない。止める試験を作らず公開した手順が消した」

苑子は更新を一つ前へ戻した。緊急性の高い脅迫表現だけを別ルールへ残し、それ以外は前後の文章を含めて人が確認する。後輩には、検出数ではなく誤って止めた割合を出してもらった。名前欄は本文と別の基準で判定し、変更前の利用者へ自動で異議申立てを送る。

責任者は、荒らしが増えたら誰が責任を取るのかと詰め寄った。

「見逃す責任も、消しすぎる責任もあります。片方だけ数字にしないでください」

午前三時、家族の名前は再び表示された。利用者からは、消えた理由を説明してほしいという返信も届いた。苑子は復旧だけで終わらせず、誤判定の件数と影響時間を公開文へ入れた。闘病中の利用者の投稿にも、仲間から返信が届き始める。

苑子は来週、複数のサービスへ安全設計を提供する会社へ転職する。内定後、夜間対応を当然とする条件に迷い、当番制と翌日の代休を求めた。今夜、修正版の契約が届いていた。

苑子は復旧報告を提出した。転職先の勤務表で夜間当番の上限と代休日を確かめ、自分の開始日を確定する。

守るための言葉が、誰かの名前を奪わない場所で働くために。