言語メディア学研究室
AIが人間の価値観を尊重し、常識的な行動ができるかを調べるベンチマーク構築
現在の生成AIや、これから開発されるAIが、人間にとって望ましい判断や行動ができるかを調べるためには、信頼できるテストデータが必要です。例えば、子どもが暮らす家庭や学校の画像をAIに見せ、危険な場所や行動を発見し、安全な対策を提案できるかを調べます。また、文化や経験、画像に写った物によってAIの判断が変化するかを評価し、より安全で信頼できるAIの開発につなげます。