Hierarchical Density Order Embeddings
[1804.09843] Hierarchical Density Order Embeddings
ICLR2018の論文が面白かったので勉強メモ。
埋め込みときいて連想するものは各々の専門によっても違うところですが、自然言語処理においては単語の埋め込みのことを指すことが多いようです。埋め込みといってもそんな大層なもんではなく、語彙数より少ない次元のベクトルで単語を表現しましょうという話ですね。
もちろん単語をベクトルで表さないといけないという決まりはありません。ベクトル以外の方法で成功した手法でいえば、ガウス埋め込みがいい例でこちらもICLRで発表された研究。
[1412.6623] Word Representations via Gaussian Embedding
日本語でこの手法に言及したものはほとんどなく、word2vecの人気っぷりにくらべるとまだまだというところでしょうか。*1考え方としてはシンプルで単語１つにガウス分布１つを対応づける方法。ガウス分布はmeanとcovarianceで形が決まる確率分布でした。つまり語彙数の分だけmeanとcovarianceがあり、これらを学習によって決定する必要があるわけです。word2vecのように"Apple"は空間上のここ！"Orange"はここ！と指差すのではなく、"Apple"はここらへん"Orange"はここかなというふうに単語が本質的にもつ曖昧性をうまく表現できます。実際にはそんな簡単な話ではありませんが。
word2vec*2もガウス埋め込みもニューラルネットワークの枠組みに従うのでやることは同じです。損失関数を設計し、勾配を求め、パラメータを更新していく。ガウス埋め込みの場合はガウス分布を損失関数の中にどう入れるかが問題ですが、Expected Likelihood Kernelがちゃんとclosed formになるおかげで問題なく損失関数の計算ができます。
さてそんなガウス埋め込み埋め込みから派生した研究が今回扱う論文です。ガウス埋め込みってhypernymとかと相性よくね？という発想で新しい単語埋め込みの手法を提案しているようです。例えば"乗り物"と"飛行機"であれば"乗り物"の方が概念としては広いですね。このようにある概念を包含するような単語をhypernymといっているわけです。hypernymとガウス埋め込みの相性の良さを指摘したのは別にこの論文が最初というわけでもなく、先行研究ですでにKL divergenceを使うアイデアなどが議論されています。KLは非対称だから同じく非対称な関係であるhypernymを計算することに向いている！というロジックです。
以下で詳細について説明しようと思いましたが、すでにけっこうな分量になったのでまた今度つづきを書きたいと思います。
*1:先駆的な仕事として↓のようなものはありますが
http://www.anlp.jp/proceedings/annual_meeting/2014/pdf_dir/A7-2.pdf
*2:正確に言えば手法の名前ではありません
フリクリの劇場版を見てきた
本日公開*1のフリクリ オルタナを見てきた。まず断っておきたいのだが筆者はリアルタイムでフリクリに触れてきた人間ではないし小説や漫画版も読んでいない。2012年くらいに一度OVAを見ただけの人間である。ただそういう人間でも何かを語りたくなったものだから今キーボードを叩いている。以下ネタバレありで色々と感想を書きたい。
結論から言えば映画館に行ってよかった。全部良かった。
まず最初のハル子の登場が良かった。主要キャラである神田というおっさんがそばを一人で食っているシーンで普通に客として入店してくるのだ。完全に背景の一部である。誰が主役なのかわからない。僕はこの冒頭のシーンだけでもうこの映画に惚れてしまった。「お前らフリクリの新作を待ち望んでたらしいけど別に俺らいつも通りやるだけなんで。劇的な登場とかそういうベタなやつは絶対やらねーから」という作り手たちのスタンスというか照れが一瞬みえた気がしたからだ。これが映画を見て最初に感じたフリクリらしさだったように思う。
話の展開としてはいたって真面目に女子高生たちの青春ドラマが展開される。見栄で年上彼氏を作る子＝ヒジリー、自分の夢を追いかけ努力する子＝モッさん、クラスの男子に恋する子＝カナぶん、親子関係で病む子＝ペッツ。
JKにこだわりがある監督というと語弊があるが、映画でセンチメンタルな部分を表現しようとした監督の意図は十分に達成されたのではないかと思う。もちろんおっさんがおっさんの想像力でJKアニメを作ることを批判することも可能だろうし、その批判を強化する理論的な武器を人文学からいくらでも引っ張ってこれるだろう。だけどそれがなんなのだ。これはそういう映画ではないのだ。都合よくJKがおっさんの想像力の領域に寄り添ってくれる映画ではないのだ。むしろおっさん(上村監督)がJK側の想像力に歩み寄ろうとして生まれた映画なのだ。*2
話が進んでくると、ヒジリーは振られるし、モッさんは夢を変えちゃうし、カナぶんは恋から醒めるし、もう何もうまくいかないのだ。ああ素晴らしきかな青春映画。そして一番うまくいかないのがペッツでありペッツとカナぶんの関係性だ。ペッツが抱える問題というのは要するに「超エリートと結婚した末に病んでしまった元キラキラ女子が自分の母親なんですけど誰か助けて by ペッツ」ということなのだが、これは結局最後までなんの解決もしないのである。それだけではない。ペッツを慕うカナぶんに対して、ペッツはうざいと突き放し、最後には「なんであんたが友達なの。。。」と呪いの言葉を吐いて二人は別れることになる。ペッツは火星にいき、親友だった二人が会うことはもうない。一般的に言えば鬱エンドと言われてもおかしくない展開である。この青春劇の裏では世界が終焉に向かっている。世界が平らにされ始める。*3鬱に鬱が重なる。でも僕自身は清々しい気分でスクリーンを見ていた。
なぜだろうか。これは少しあとで考えたい。
そしてJK4人が青春しているところでちょっかいを出しまくるのがハル子だ。
今回のフリクリ新作の特徴は「もしハル子がXXしたら」という妄想を映画の中にたくさん詰め込んでいることで、これは映画を見る楽しみの１つである。フリクリの面白さが「マイペースにハル子が色々やらかす」ことだったのを思い出す。しかしハル子のやること１つ１つはめちゃくちゃで、完全に人間じゃないのだがキャラは当然誰も突っ込まない。いや突っ込んだら負けなのだ。ハル子はハル子という存在であって、ただそれだけの根拠で世界に根を張り、暴れまわる。例えばトランスフォーマー*4に出てきそうな変形ロボットと戦って最後にケバブの棒でぶっ刺して倒してしまうような、そういう暴れ方をするのだ。ラップが流行ってるなら見境なくやるのだ。*5そして、ちょっかいを出す一方でJKとの会話で突然相手を突き放すような冷たい言い方もする。あくまで目的達成が重要でJKの日常なんて知るかというわけだ。しかし目的のためだけなら他にやり方はある。それをしないのはやっぱ遊びたいから、、、だよね。という訳でハル子の自由奔放っぷりを見るだけでも映画館に足を運ぶ価値はあると言っておこう。
さて、こうしたハル子の生き様を振り返った上で、再びペッツの鬱展開に清々しさを感じた理由を考えてみたい。
後半では世界の終焉と日常の崩壊がやってくる。街はアイロンがけされて、親友は火星にエリートパパと移住してしまうのだ。僕だったらもう絶望して何もしないだろうと思う。でもカナぶんは違った。最後に立ち上がる。巨大な理不尽に向かって、ただ自分が言いたいこと、親友が大好きだって叫ぶ。彼女はなぜそんなことができたのだろう。そこでハル子の存在が鍵になる。ハル子というのはテンションが高いようにみえて実はすごく超然としている。ただ超然としているのではなく、世界の終焉とJK的日常の崩壊を全く同じ次元で子供のように楽しんでいるのだ。もちろん現実にはハル子のような超「超然」とした人間がいるわけがない。身近に迫った終焉や崩壊を楽しめるやつなんていない。だけど観客は、いや少なくとも僕はそんな超然としたハル子の存在にとても救われる。人間と人外のいいとこ取りみたいな存在になぜか勇気をもらう。そしてカナぶんもまた、ハル子に影響され励まされた人間の一人なのだ。だから彼女は理不尽に立ち向かえた。僕はそう考えている。映画の展開に清々しさを感じたのはきっとそういうことなんだろう。
ネタバレ含む感想なので未視聴の方がこれを読んでいるとは思えないが、もしいたらぜひ映画館へ行かれることをオススメする。
*1:実際には昨日ということになるが
*2:その証拠としてJKにエロいことを言わせるシーンが１つしかない。ヒジリーがペットボトルロケットを見て「大きい///」というシーンである。実際に大きいので別にやらしいセリフではないと主張することも可能である。なんと自制的なスタッフ陣だろうか。修行僧もかくやあらん。
*3:アイロンみたいなやつが動き出したシーンだが、アイロンが通った後の街なみがなんとなく震災の理不尽さを思い出させた。世界の理不尽と日常が平行で進む感覚は浅尾いにおの漫画にも通じる
*4:ロボを倒すときに「バンブルビー！」ではなく「マイケルベイ！」と叫ぶそのひねくれ具合が良い
*5:ここまでくるとハル子がやりたいことというより作り手がやりたいことなのではないか。という感じだが面白いのでいいか
