コモンセンスや文脈を理解し、柔軟に対応するAI
自然言語処理のパラダイムシフトを目指して

ジェプカ　言語メディア学研究室では、自然言語処理を中心に、機械が自然に(人間のように)言語を扱い、獲得した言葉のルールや知識を使えるようになるプログラムの研究開発を行っています。

私は「コモンセンス」をコア概念として、既存のアルゴリズムにこだわらない新しい手法でのAI研究に取り組んでいます。コモンセンスは、直訳すると「共通感覚」で、日本語では「常識」と訳されることもあります。私たち人間は、成長する過程でさまざまなコモンセンスを獲得し、それを物事の判断基準としています。しかし、人間にとっては当たり前のことでも、ロボットやAIなどの機械は間違って認識することがあります。

コモンセンスにはさまざまな側面があり、人間にとっては低レベルの常識であっても、機械は学習しなければなりません。物理的な因果関係（紐は押すことができない、壁を押しても動かない）、時間的な因果関係（1時間の遅刻は遅い、1時間の飲み会は短い）、社会的な因果関係（買うときはお金を払う、手伝ってもらったら礼をいう）などもコモンセンスの一種です。

また、人間のコミュニケーションには多くの「省略」があります。例えば、「このスープには塩が足りない」という発言には「塩入れを持ってきてほしい」という情報が隠されています。このような推測を「Tacit Knowledge（暗黙知）」と呼びます。現在のAI研究は翻訳やゲーム、運転など限られた用途に使われるものが多く、機械学習によりある程度の能力を獲得していますが、コモンセンスや暗黙知を十分に獲得できているとは言えません。

最近のAIは、主にインターネットの資源を用いて知識を獲得しています。しかし、Web上にアップロードされるテキストや画像、動画には、前述の物理的・時間的・社会的な因果関係についてわざわざ説明しているものはほとんどありません。また、Web情報には嘘・デマ・隠喩・皮肉などさまざまなバイアスが含まれているため、倫理的な判断を誤ったり偏見を持ったりする可能性があります。

私の研究テーマは、機械がどのように言語や知識を獲得すれば、コモンセンスや暗黙知を考慮した柔軟な理解能力と説明力を持てるようになるかというものです。

ジェプカ　まずひとつは、「Bacteria Lingualis（言語菌）」です（解説1）。私が2003年に提案したもので、複数のエイジェントが情報を共有し、知識の自動修正を行う仕組みです。

言語菌の最大の特徴は、テキストの世界で「生きているバクテリア」のようなプログラムを動かし、ある程度限られたシチュエーションの中でのコモンセンスを獲得することです。複数のプログラムがそれぞれ違う言語やシチュエーションについて学習し、各言語の背景にある歴史や文化に依存した知識を獲得します。さらに、エイジェント同士がお互いの知識を共有し、共通点を見出すことで、全体として正しい倫理判断やコモンセンスに基づいた推論を行うことができるのではないかと考えています。現在はマルチリンガルの言語モデルを用いたバージョンを開発していますが、将来的にはテキスト情報だけでなくカメラやマイク、各種センサーなど人間にはない感覚器官の情報も取り入れていきたいと思っています。

もうひとつは、科学研究費助成事業（科研費）を得て行っている「暗黙知」の研究です。ここでは文章を最小限の要素に分解し、統計的なアプローチで論理的なルールを発見する知識獲得手法を目指しています（解説2）。例を挙げると「私たちは、今、オンライン会議をしている」という文章の意味を細かく分解し、「私たち=人間」「今=いつ、近い時間」「オンライン=近くない、物を扱う」「会議=人と人が話している」など関連する一番簡単な概念（時間、物，人，扱う，話すなどのSemantic primesと呼ばれる意味の最小限の要素）を紐付けていく手法です。「人間は身体があり生きている」「コンピュータは生きていない」といった人間なら当たり前に知っていることでも、機械はまだよく間違う状態なので、言語モデルなどから概念の認知を引き出し、さまざまな文脈から共通のカテゴリーなどを学習していくアイディアです。本研究の成果は、より深い機械学習パラダイムとなり、次世代の言語モデルを構築する材料になるのではないかと期待しています。Bacteria Lingualisは日本語の助詞を用いて人間の感情などを発見していましたが、現在は意味の最小限の要素が追加され、論理的なルールやアナロジ発見のための抽象化の実験を行っています。

ジェプカ　現在、科学技術振興機構のCRESTで「信頼されるAIシステムを支える基盤技術」の研究に関わっています。

現在のAIは、膨大な情報の中から最適な解答を見出すことを期待されていますが、理由や推論のプロセスを説明することができない、いわゆる「ブラックボックス問題」が課題とされています。本研究では、ニューラルネットワークと論理的ルールを融合させ、なぜこのような結果に至ったかを説明できるAIの実現を目指しています。例えば、ある事柄について、子どもにわかりやすく説明するのか、科学的根拠を列挙して詳細に説明するのかでは盛り込む情報の量や精度が異なります。また、犯罪などに利用される可能性がある情報などにも注意が必要です。目的や状況に応じた情報の取捨選択と、受け取る側の属性に応じた内容を考慮し、シチュエーションや文脈によって説明の度合いを調整する役割として哲学や心理学など文系の専門家が必要とされているのです。私は言語学と認知科学の出身なので、文系と理系の背景を持った研究者として両チームの接着剤の役割を担っています。コモンセンスや暗黙知を理解し、社会から信頼されるAIを実現するには、言語学や認知科学以外にもさまざまな文系の専門家の存在がますます重要になってくると思います。

近年のAI研究には斬新な発想によるパラダイムシフトが起こりにくい状況があると思います。私たちの研究室では、企業がまだ視野に入れていない困難なテーマにも積極的に挑戦していくことを目指しています。情報科学の急速な進歩により、過去には実現できなかった文系研究に基づくシステムも開発できるようになりました。新規性のあるアイディアは簡単には浮かばないので、過去の研究論文に再度チャレンジすることで新しい領域が広がる可能性もあります。若い世代の研究者のフレッシュなアイディアを生かし、画期的な認知アーキテクチャの開発につなげたいと考えています。

(2023/03/09)