マスク付き言語モデルのマスクトークンを用いない差別的バイアスの評価

マスク付き言語モデルのマスクトークンを用いない差別的バイアスの評価

タイトル:Unmasking the Mask – Evaluating Social Biases in Masked Language Models
著者:Masahiro Kaneko, Danushka Bollegala
会議・出版:arXiv
年:2021

💡 概要

  • BERTやALBERTのようなマスク付き言語モデルの公平性に関するバイアス評価についての研究
  • マスクトークンを用いないバイアス評価手法 (AULとAULA)を提案
  • バイアス評価にマスクトークンを用いることの問題点を分析
続きを読む