海外在住研究者のつぶやき

専門外のことについて勉強した内容をまとめます．

メタバースと自然言語処理

自然言語処理や対話研究がどのようにVRベースのメタバース*1に貢献できるかを知るため、ロンドン大学の「Building Interactive 3D Characters and Social VR」を聴講した。本記事では、講義の中で筆者が面白いと感じた部分を備忘録として記す。

筆者はメタバースへの興味から、実際にヘッドセットを数週間前に買い、100時間以上をメタバース空間*2で過ごし、またUnityを用いたメタバース上への簡単な世界構築なども経験してみた。本記事では、前述の備忘録に加え、これらの実体験をも交えて、メタバースの将来性と自然言語処理との親和性の考察もする。

f:id:rppinnl:20220110104516p:plain
筆者がメタバース上に構築したポスター発表会場。本論からは逸れるが、オンラインの効率性とオフラインの交流しやすさをいいとこ取りできるため、VRでの学会発表は主流になりうると感じた。

なお、引用元の下訳はDeepLで行い、その後に筆者が一部修正・意訳した。

まとめ

  • ソーシャルインタラクションはVRにおいて重要要素の一つ。VRによる訓練は社交不安障害の治療に有効との研究報告もあり、また、語学練習のみならず恋愛練習にも有効とのユーザの声もある。
  • 医療応用やエンターテインメントの文脈で、NPC (non-player character) 技術への注目は高まっており、これにはボディーランゲージと自然言語の両面で攻める必要がある。そのため、メタバース分野において、自然言語処理・対話技術者の需要が増すと予想される。ただし、ボディーランゲージの重要性などのため、従来の自然言語処理・対話技術がそのまま適用可能とは限らないことに注意されたい。
  • メタバース分野は日本勢に商機がある。不気味の谷がある故、アニメアバターを使用するほうが実物に近いアバターを使用するより、リアルに感じられるため。実際に筆者もメタバース空間で、日本の存在感に驚かされた。

要素

講義では、VRにおけるソーシャルインタラクションの重要さが強調されている。 なぜ、従来のネットに比べVRはソーシャルインタラクションに向くのか。

ボディーランゲージ

講義によると、親密さ向上においてボディーランゲージこそが重要とのこと。 ボディーランゲージこそが従来のネットに比べVRをよりコミュニケーションツールとして有用なものにしているらしい。 直感的にも納得できるが、研究的裏付けもある。

特に傾聴のボディーランゲージは重要でした。それは、クリスティーナ（AIソーシャルエージェント）が本当に参加者に注意を払っているかのように錯覚させ、彼女をリアルに感じさせたのです。 これらのリアルなボディーランゲージの活用で、クリスティーナ参加者に強烈なインパクトを与えることに成功しました。 （引用元: Cristina）

自然言語

ボディーランゲージだけでなく、自然言語における受け答えも重要であることは言うまでもない。

会話は、人間のソーシャルインタラクションを支える基本的なものです。私たちが他人と交流するとき、ほとんどの時間を会話に費やします。どんな会話にも2つの要素があります。一つは意味の要素で、これは主に私たちが発する言葉によって担われます。そして、ボディーランゲージと声のトーンによって運ばれる社会的、感情的な要素です。 （引用元: Speech）

応用と今後

治療

VRは社交不安障害（social anxiety）の治療に有効らしい。 筆者は英語では人付き合いに不安を感じる事が多いのだが*3、たしかにVR上で練習できている気がする。

メタバース上の知人からは「異性経験が少ない人は、VR上での練習も効果的だと思う」との意見もあった。

人付き合いに不安を感じる人は、可能な限り人付き合いを避ける傾向にあります。しかし、そうすることで、社会的スキルを練習する機会も逃しているのです。そして、練習をしなければしないほど、より不安になる、という悪循環に陥ってしまうのです。この悪循環から抜け出すには、仮想のキャラクターを使って社会的なやりとりを練習することが有効です。（引用元: Applications of Virtual Characters）

対話AI

これらの治療への応用やエンターテインメントの文脈で、NPC (non-player character) 技術への注目は高まっている。 そのため、自然言語とボディーランゲージの両面からのソーシャルインタラクションの技術開発、そしてVR上での対話AIの技術開発が、VR業界におけるホットトピックになる可能性がある。

今後は特に、NPC (non-player character) 技術が進歩すると思います。なぜなら、大規模なマルチプレイヤーVRの世界が始まると、NPCがうまく機能していないことを、人々はより強く意識するようになるからです。これは非常に興味深い研究分野だと思います。 （引用元: Designing Virtual Characters）

VRにおけるソーシャルインタラクション研究の重要性・将来性は、講義のまとめでも再度強調されている。

ソーシャルインタラクションは、これからのVRの最も重要な要素のひとつになるでしょう。 （引用元: Summary of Social VR）

商機

アニメ

筆者はメタバース分野に関して、日本に商機があると思っている。これは、日本はアニメやゲームに対する親和性が相対的に高いためだ。 講義では、不気味の谷があるため、実物に近いアバターよりアニメアバターのほうがよりリアルに感じるという話が取り上げられていた。 アニメアバターは日本の得意分野だ。実際に、最大級のメタバース空間であるVRChatに行くと日本の存在感に驚く。 やっぱり日本勢はVRにこそ商機があるという印象がある。

「より簡略化された抽象的な表現が、実はよりリアルな体験をもたらすということですね。」 「その通りです。漫画から多くの教訓が得られると思います。スコット・マクラウドという偉大な理論家曰く、アバターのリアリズム度合いを下げることで、逆により「リアル」になるとのこと。なぜなら、リアリズムが邪魔にならないので、アニメーターが使う様式化・誇張のトリックが活かせるからです。」 （引用元: Designing Virtual Characters）

導入インセンティブ

一方で、ビジネスシーンへの導入に関しては欧米が先を進むことが予想される。 「VRで他人種のアバターを使うことで、人種バイアスを減らすことができる」という報告もあるらしく、人種差別に敏感な欧米でのビジネスへの導入インセンティブは大きいためだ。

異なる人種のアバターをVRで使用することで、人種的偏見を減らせることができる可能性がある。 （引用元: Self-Avatar | Implementation and Applications）

*1:本記事では Oxford Language Dictionary の定義 "Metaverse is a virtual-reality space in which users can interact with a computer-generated environment and other users" に従い、VRベースのメタバースについて記していることに注意されたい。

*2:VRChat

*3:英語力不足による自信欠如などが原因

MMT理論の危うさ

金融緩和の副作用は通貨の価値低下であって、それはインフレ以外の形、例えば円の購買力低下としても現れる。 そのため、MMT論者の「日本はインフレはしてないので当面は刷りまくってOK」は極めて危うい。

「いや、インフレ率ではなく通貨価値の安定がMMTの目的なのだ」ということであれば、週刊エコノミストの記事*1でも指摘されている通り、 日本円の購買力の低さは歴史的水準にあり、金融引締が必要な状況とも思われるが、経済状況を考えると中々厳しいものがある。

結局、経済成長するには金融政策をいじるのではなく技術開発を促すなどの「正攻法」しかないのだろう。ただ、日本の研究開発現場で働いていた経験からすると、こちらも茨の道という印象だ。

日本で物価が上がらないのは賃金が上がらないからだ。そして、賃金が上がらないのは生産性が上がらないからだ。生産性を上げるためには、技術開発を促進することが必要だ。 （引用元：日本の物価が上がらない“元凶”、賃金を政策目標にしない日銀の大間違い, 一橋大学名誉教授 野口悠紀雄）

*1:週刊エコノミスト「安い日本　超円安時代」についての対談

移民受入とは「人間生産のアウトソーシング」である、という話。

欧米は人口（特に高技能労働者）を移民で補っているっていう話を知人にしたら、 「つまり、欧米は人間生産をもアウトソーシングしているってことだね」 と。言い得て妙である。

人材育成

人間生産のアウトソースという観点で考えると、欧米のMOOCsは「人材育成」の一環とも言えそう。 欧米の教育基準に合う優秀な人を諸外国に生産し、そのほん0.1%だけの上澄みを米国人として採用するという。

綺麗事

この先進国ゲームは怖い。「平等が大切〜」という綺麗事で、高技能移民たちを、現地の低技能労働者と同レベルの給与水準に押し込めるし、 人権がない国の方が効率的に人間生産できていることを知っておきながら、その犠牲の元に生産された人間の上澄みを「人権は大切〜」という綺麗事で招き入れ。

「任期なし助教」の難易度と将来性

筆者は現在、海外にて学位取得を目指しており、学位取得後のキャリアとして日本の大学への就職も考えている。 特に、教育への関心、公募の競争率、そして家族の都合の関係から、地方国公立の「任期なし助教」に興味がある。 そこで、任期なし助教の関連情報を（地方国公立のものを中心に）まとめてみた。

なお、筆者の専門である情報系の話が中心であることに注意されたい。

条件

筆者の希望条件は下記。

  • 非研究大学でもOK：教育にも注力したいため
  • 首都圏外もOK：ただし首都圏まで二、三時間の運転で行けるのが理想
  • 地方私立は今回は検討対象外

まとめ

先にまとめを。

  • 任期なし助教は高倍率であり、そもそも公募自体も珍しい。なぜなら、ほとんどがテニュアトラック助教に取って代わられているため。なお、テニュアトラックの審査合格率は７割くらいで普通に落ちるので、任期なし助教の代わりとは言い難い。
  • 高倍率を勝ち抜き任期なし助教になっても安泰ではない。准教授への昇進の保証はなく、さらには暗黙の「追い出しルール」などもあるとかないとか。オープンキャンパスや講習会などの研究に無関係な業務も多い。

テニュア審査は普通に落ちる

大前提として、国公立（特に研究大学）では任期なし助教の募集はほぼなく、筆者の分野では一年間に数件程度である。ほとんどがテニュアトラック助教に取って代わられている。 そしてこのテニュアトラック助教は「任期なし」とは程遠い性質のものである。

テニュア審査の合格率を下記する。大学によっては半数近くがテニュア審査不合格になっていることがわかる。 テニュアトラックは「なるべくテニュアを取らせる」という運用と筆者は理解していたので、この結果は衝撃的であった。

f:id:rppinnl:20210929221703p:plain
テニュア審査の合格率。「長谷川 潤, テニュアトラックに求めるもの」より引用

テニュアトラックなのにポジションが確保されておらずほとんど不合格になることもあるという。確かに、上記の例でも東京工業大学や東京医科歯科大学ではポジションが30％〜程度しか用意されていない。

テニュアトラックなのにポジションが確保されておらずほとんど不合格になるという話は聞いたことはありますが、合格後に出て行けと言うのは初めて聞きました（引用元：Ryota IINO 飯野亮太 - Twitter）

ただし、アメリカの場合もテニュア審査の合格率も７割程度のようで、日本の審査の合格率が世界標準と比べ一概に悪いとは言えなそうである。

（テニュア審査の合格率は）通常のResearch Universityでは７割程度（引用元：なんか書いてみよう: 4月 2011）

いずれにしても、テニュアトラック助教は（良い試みではあるものの）任期なし助教の代替とは言えない。

倍率

地方国公立の任期なし助教に関する情報は得られなかったが、任期つき助教、首都圏私立大の任期なし助教に関する情報はあった。

まず、任期付き助教だが、情報系は倍率が５倍以下とそれほど高くなさそう。 確かに「東京都立大学 採用・昇任選考結果一覧 | 東京都公立大学法人」を確認した限りでは任期つき助教への応募者は3〜4名程度が多く、倍率は高くない。

情報系だと大学は企業と競合するので、基礎科学より大学の助教になるハードルは低いのだとは思います。それでも条件のよい助教ポストだったら倍率5倍以上にはなるかもしれませんが……。(准教授以上が激戦区で、倍率数十倍になるみたいですね)（引用元：Mamoru Komachi - Twitter）

一方、首都圏私立大学では任期なし助教の公募倍率が100倍超え、3年の任期付きでようやく数十倍とのこと。情報系の誰でも応募できるくらい広い公募だとこうなってしまうらしいので、応募する側の戦略としてはやはり自分の専門に合致した公募に応募すべき、ということになるか。

しかし私立大学の理工系の学部でも、任期なし助教で公募したら応募が100倍を超え、3年の任期付きでようやく数十倍に減ると聞くと、ガチ公募に通るのは本当に厳しいのだなと痛感する。（中略）松本先生は「うちが助教を公募しても数十倍行くことはない」とおっしゃっていたが、たぶん分野をどこまで限定して公募するかによるのと、パートナーや親の事情などで首都圏を離れられないといった事情があるだろうし、情報系の誰でも応募できるくらい広い公募で、なおかつ首都圏だと応募が殺到するのであろう。（引用元：武蔵野日記）

足切り

「直近５年で主著３報」

公募倍率がたとえ１００倍を超えたとしても、実際にはそれなりの人が内規により足を切られている可能性がある。 下記の報告によると、公募には「直近５年で主著３報」などという内規があり、これを満たしていないと足切りにあう、とのこと。 この方は生命系だが、情報系にも似たような内規がありうるので注意が必要である。

私は民間企業から私立大学に採用された。10年近く公募に出しつ続けた結果である。 私がずっと勘違いしていて採用されて気づいたことがある。それは、特許などは大学教員採用の業績にならないということである。 大学によりけりであるが、実は表にでていない「内規」というか独自ルールがある。 直近５年で主著３報。 特許や学会発表など企業で行ってきたことは全く寄与していなかった。 （引用元：大学教員採用（２）内規の存在、筆者が適宜中略）

教育歴

助教においては教育歴はそれほど見られないようだ。ただし「任期なし」助教においても同様かは不明*1。

実際、審査してる立場でも、ちょっとでも教育歴があると全然印象が違います。 （中略）あ、助教（助手席）採用人事の場合は教育経験は無いのが当たり前なので、教育経験は重要視されないでしょうね。さっき書いたのは准教授採用人事、教授採用人事の場合です。（引用元：石井晃 - Twitter）

追い出し

高倍率を勝ち抜き、任期なし助教に就けたからといって安泰とは言えない。 暗黙の「追い出しルール」もあるとかないとか。

テニュアトラックは多くの場所で、"なるべくテニュアを取らせる"という方向で運用があるのに対して、日本では任期なし助教は"なるべく出ていく"という約束がありがち（引用元：あなちゃん - Twitter）

特に研究室を主宰していない助教の場合は追い出し可能性が高まるようだ。 調べた限りでは情報系では任期なし助教でも研究室を主宰できることが多そうであった。おそらく下記は自然科学（特に生命系）分野に関する話と思われる。

大抵、新任教授は着任した大学で新しい研究プロジェクトを始めるので、前任教授の下で働いていた教員は転職活動を始めないといけません（引用元：助教になれれば安泰なのか？その目安は？）

追い出し部屋の存在も示唆されている。恐ろしい。

准教授になったって、終身（テニュア）が保証されていないのです。（中略）よくある圧力としては、研究室が非常に小さいものしか与えられず、座敷牢のような感じで閉じ込められます。（引用元：准教授だって安心できない）

万年助教

さらに准教授への昇進は全く保証されていない。

今、任期なし助教であっても准教授に昇進できるかわからんし、任期なし准教授であっても教授に昇進できるかわからんし、常に転活やなぁ。（引用元：Mitsuo Yoshida; AI Bot (PR) - Twitter）

業務量

地方公立の場合。「大学教員として最初の訓練と割り切っているからこそ向き合える内容と分量」とのこと。

「教育6 研究1 運営2 地域貢献1」「地方小規模校ゆえの高校訪問、オープンキャンパス、公開講座、講習会など学生獲得のための業務量にも辟易」「大学教員として最初の訓練と割り切っているからこそ向き合える内容と分量」「永久に続く学生対応。環境整備など事務員の肩代わり業務、絶え間なくどこからか降ってくる雑務。評価基準が見えず、昇進昇給も不透明。」（引用元：地方公立専任講師 - 大学教員が明かす仕事の本音）

平日は14時間、土日も毎週6時間の労働時間との報告も。

自分の例をあげますと、40半ばの国立大助教で年収600万でした。（中略）平日は14時間、土日も毎週6時間ほど大学にこもり、帰宅後も作業を行っていました。年間340日は大学にいたと思います。 （教員公募について考える② - 社会人からテニュア大学教員へ）

大学の「下請け」化

地方大の問題は大学の「下請け」化。なんでも共研ノルマがあるとかないとか。 今後は共研圧も強くなりそうなので益々問題になりそう。

例えば、大学が、中小企業に無償で設備を使われたり、試作品の製作をさせられたり、一方的にヒト・モノ・カネを負担している事例を、共同研究と称していることが多いのではないか（引用元：搾取される研究者たち 産学共同研究の失敗学 - Amazon）

*1:任期なし助教は「助手席」採用ではないことが多いという認識なので。

日本語自然言語処理の研究は必要なのか

（文脈無視を承知の上で）GPT3をいじった感想としては、「最近の言語モデル、というものはね、そういう意味処理の問題も相当、（適切なプロンプトを与えるだけで）解けるようになっている」なら間違いとは言い切れない気がしている *1。

例えば、含意関係認識の問題も適切なプロンプトを使えばGPT3で解けるようになってきている。

f:id:rppinnl:20210924160538p:plain
GPT3による含意関係認識。太字が入力、細字が出力。

翻訳を介せば日本語も

日本語の含意関係認識も、一旦DeepLで英語にしてやったあとにGPT3で解けば、まあ解ける。しかも、ご丁寧に「説明」付きである。

問題

T: 川端康成は「雪国」などの作品でノーベル文学賞を受賞した．
H: 川端康成は「雪国」の作者である．

含意関係認識の結果

f:id:rppinnl:20210924160617p:plain
GPT3と機械翻訳による含意関係認識。DeepLによる日英翻訳結果が入力（太字）。細字が出力。

性能向上のための日本語自然言語処理の研究は必要か？

どれだけ大規模言語モデルの影響範囲が拡大しようと、言語モデル自体の研究は残るので、英語自然言語処理の研究は残るだろう。 意味処理の研究も言語モデルを活用したものに変わっていくだけで残るだろう。 例えば、直感的にも「適切なプロンプト生成の研究（aka プロンプト工学）」などはしばらく残りそうである。

でも日本語は…？ 英語の手法を参考に日本語「独自」の手法を開発するより、日本語を英語に翻訳して直接英語で問題を問いたあと日本語に再翻訳をかけるほうが、性能が高くなる時代が来る気がしませんか*2？ 当然タスクに依ると思いますが*3。

追記

あくまで工学的な「性能向上のための」です。文化・倫理・言語・社会学的な視点での日本語自然言語処理研究は必要だと思います。

*1:当然、「全部」の問題が解けるわけではない。例えば、Floridi et al. 2020 はGPT3は(人間なら容易に類推可能な)計算問題すら間違えることを指摘している

*2:日本語で英語以上に大規模な言語モデルが構築できるのであれば、日本語「独自」の技術にも意義はありそうですが、なかなか難しそうなので…

*3:例えば機械翻訳関連技術の研究などは残るだろう

「日本語ネイティブ」というだけで不利な世の中に

最近、言語間格差を感じることが本当に多い。 例えばGoogle Home。日本語で使うと「わかりません」ばっかりなのに、英語母語話者である妻が使うと必要な回答がピンポイントで返ってくる。 その他、Google検索は当然のこと、YouTubeですらレコメンドの質が言語間で違う気がする。

この話を昨日オランダ人の同僚にしたら「基本的にネットでは英語を使う。母語は普段は使わないでしょ」と当たり前のように。 ここだけ切り取ると「英語が堪能だといいよなあ」で終わるんだけど、問題は、皆英語でネットを使うが故に、蘭語の自然言語処理の研究をしている人は少ないらしい。

じゃあ英語圏に生まれれば万事解決かと言われると、そうでもない、というのが個人の印象で。 英語圏は高技能移民や資産家を引きつけるが、それが故に家賃・学費が異常高騰し、結果としてローカルは借金を背負い、そして大人になっても親と同居しながら生活せざるを得ない状況がしばしば観測され…。

「高齢化は経済成長に悪影響」は本当か？

メディアでは高齢化が経済成長に及ぼす悪影響が強調されている。悪影響の原因は、高齢化による労働力参加率や生産性の低下、あるいは高齢化による貯蓄率の上昇などとされている。

一方で、高齢化と経済成長は無関係だ、という報告もある。

高齢人口指数の変化率は先進国と途上国で意味合いが異なる。 例えば、途上国での高齢人口指数の増加は医療の充実を意味し、これは経済成長に悪影響を与えるとは考えづらい。 そのため、先進国への影響を知る上では、高齢人口指数の変化率と経済成長の関係を先進国に限定し分析すべきである。 しかし、上記の研究では先進国と途上国を区別していない。 そこで、本記事では先進国のデータを用い、高齢化が先進国の経済成長に悪影響を及ぼすかを検討する。

結論

先に結論を。

  • 先進国における高齢人口指数の変化率と経済成長率の関係を調べた結果、これらに相関は見られなかった。
  • そのため、「高齢化が経済成長に悪影響を及ぼす」という関係は、先進国においても本分析では確認できなかった。

分析

データと条件

一人当たりGDPおよび高齢人口指数のデータは世界銀行*1から取得した。

Developed country - Wikipediaを参考に、2000年時点で一人当たりGDPが$20,000を超えている国を先進国とした（N=30）。

結果

先進国における高齢人口指数の変化率と経済成長率の関係を調べた。 結果を図１に示す。図１からは、高齢化は経済成長に悪影響を及ぼすという関係は見られない。また、相関係数も0.13であり、ほとんど相関もない。

図１：先進国における高齢人口指数の変化率と経済成長率の関係

以下に具体例を示す。シンガポール、アイルランド、フィンランドなどの高齢人口指数の変化率が高い国においても、実際に高い経済成長が見られる。

Appendix

Acemoglu and Restrepo*2（2017）はさらに、人口高齢化が自動化技術の積極的な導入を促すことで、より高い成長を促進できると主張し、それを裏付ける実証的な証拠を示している。

Lee and Shin（2019）は、これらの矛盾する知見を、高齢化の成長に対する非線形効果によって説明している。彼らは、人口高齢化が経済成長に及ぼす負の効果は、老齢従属率が一定の高水準に達するまで実現しない、これは、人口高齢化率が比較的低いときには、（老齢従属率や老齢人口シェアで見た）人口高齢化率の上昇は、生産年齢人口のシェアの低下と一致しないためである、と主張している。高齢化率がある程度高くなると、高齢化の進展と労働力人口の減少が同時に起こり、経済成長率の鈍化につながる。Eggertson, Lancastre, and Summers (2019)も、1990-2008年の期間と比較して、より最近の期間（2008-15年）では、異なる理由で、高齢化が一人当たりの生産高成長率に与える影響がマイナスになったことを示している. (Lee+21)

*1:https://data.worldbank.org/indicator/NY.GDP.PCAP.CD

*2:The paper shown in the tweet above