論文の「腎不全」がなぜか「腎臓の失望」に 謎の言い換えがHNで話題
学術論文の中に「腎不全(kidney failure)」の代わりに「腎臓の失望(kidney disappointment)」のような不自然な言い換えが紛れ込んでいる例が見つかり、Hacker Newsで話題になった。
参加者からは、盗用検知を逃れるための同義語置換ツールなのか、単なる機械翻訳の質の低さなのか、あるいはAIによる電子透かしなのか、原因をめぐって様々な推測が飛び交った。中には化学論文で「the final solution」が「民族に対する大量虐殺」に化けていた事例も紹介され、笑いと呆れが入り混じる議論になった。
「腎不全(kidney failure)」の代わりに「腎臓の失望(kidney disappointment)」という言葉を使っている論文たち
出典: scholar.google.com / 元記事はこちら
化学論文の中で、AIが化学用語の『the final solution(最終溶液)』を、よりによってホロコーストの婉曲表現でもある『民族に対する大量虐殺』という語に言い換えてしまった例には敵わない。『続いて、民族に対する大量虐殺1mLを皮膚サンプル20mLに反応させ、7分間無防備に光にさらした』とすら書かれている。(出典: リンク先)
『lactose intolerance(乳糖不耐症)』を『lactose bigotry(乳糖への偏狭さ)』と言い換えてる例もあるよ
これはAIっぽくない。LLMはこんな風に辞書的な言い換えで論文を訳したりしない。むしろGoogle翻訳のような翻訳エンジン、もしくはもっと酷いものと、盗用検知を逃れるためのテキスト難読化ツールを組み合わせた結果に見える
初期のGrokだったりして?
こういう同義語置換の例を探すの、実はかなり面白い。リンク先で検索するともっと見つかる。詳しく知りたいなら、これらは『tortured phrases(拷問された言い回し)』と呼ばれているはず
『tortured phrases』とは『artificial intelligence(人工知能)』の代わりに『counterfeit consciousness(偽造された意識)』を使うような、奇妙で意味不明な単語の組み合わせのこと。『Counterfeit Consciousness』、今度作るポストリキッド系アナログモジュラーシンセIDMプロジェクトの名前に採用する。こういうテキストスピナーって、実は物の名付けのネタとして手つかずの金鉱なんじゃないかと思えてきた
うん、まあ、自分はこれを『distressed phrases(傷んだ言い回し)』と呼んでる
2021年の記事にも同じ話がある(リンク先)。あとSCIgenは2005年、でたらめな論文を生成してそれが実際に学会誌に掲載されてしまったこともある(リンク先)
これ、EUのAIコンテンツ電子透かし義務化と何か関係あるんじゃないかと思う
Google ScholarにBot扱いされて、リンク先を見せてもらえない
こういう言い換え、正直バカバカしいと思う。腎臓移植がうまくいかなかった人に聞いてみればいい。それは『失望』なんかじゃなく『不全』だと感じているはずだ
『tortured phrases』は不正や盗用の明確なサインだ(リンク先)
これがトップコメントであるべきだと思う。撤回された論文が数千本規模? Google Scholarで検索するより、よっぽど有益な情報だ
本当の話、昨日『体重計』の英語が何か気になって『pèse personne in english』でググったら、答えが『person weighs(人が量る)』だった
同じことを検索してみたら、自分には『フランス語のpèse-personneは英語でbathroom scales(複数形)またはbathroom scale(単数形)と訳されます』と出た
うーん、乗ってみるか。これって翻訳の問題なんだろうか? 正直、最初に頭に浮かんだのは『AIが書いたんじゃないか』ってことだった。でもすぐそこに飛びつきたくはなかった…ただ、正式な医学教育を受けた人が使うとは思えない、そんな奇妙な単語ではある
電子透かしのためにAIが単語を変えているんだと思う
盗用を隠すために単語を変えている可能性の方が高くない? 追記: いくつか見てみたけど、たぶん単に機械翻訳の質が低いだけだと思う
面白い! 読み始めてみたら『個人の腎臓の失望というギャンブルを測定する』みたいな文がやたら出てくる。電子透かしのために単語を変える理由はわかる…けど、よりによってこんな場所でやるとは、なんとも不運な選択だ
『African American-tie dinner』。1996年の『スピン・シティ』にも同じネタがある
関連ネタ、1988年のもの(リンク先)
単にニューラル翻訳なだけじゃないの? 2010年代半ばからあるわけだし
自分もそれを疑ってる。2021年にGrammarlyを使っていたとき、こういうタイプの置換を見た覚えがある
『ほどほどに不便な言い回し』
『特別に尋問された言い回し』
いい指摘。でもこの『kidney disappointment』を使ってる記事はかなり多いから…うわ、Renan Kamathの『腎移植とそのメンタルへの影響』(2023)を見てみて。『臓器の幻滅』『腎臓引っ越しの却下』『移動した臓器の免除』とか出てくる
『老廃物は血液中で法外なレベルまで蓄積しうり、それは腎臓と、バケツを蹴る(死ぬ)ことの締めくくり双方に害を与える…』『通常、それは冗談でないよりも苛立たしい…』(Pal and Gautam 2018)
学校の作文で、単語をいちいち類語辞典で調べて『こうすれば作文がよくなる』と思い込んでるときみたいだ
置換は見え見えだし、意味も変わってない。一体何が不正解に進行しうるというのか?
(canを『缶』、goを『立ち去る』に置き換えて)一体『缶』は、どう『立ち去れば』不正解になるというのか?
※本記事は5ch(Hacker News)スレッド「Research papers using "kidney disappointment" instead of "kidney failure"」より抜粋・要約して構成しています。
まだコメントはありません。