研究紹介
京都府立大学におけるAI・データサイエンス関連研究を紹介します．
AIデータサイエンス教育研究センターでは，センター自身が研究を行うのではなく， 本学においてAI・データサイエンスに関連する研究を行っている教員の取組を紹介し， 教育や社会連携へとつなげる役割を担っています．
本ページでは，その一例として，生成AIを活用したネットパトロールに関する研究を紹介します．
本研究では，インターネット上における人権侵害の可能性がある投稿を対象として， 効率的かつ継続的にモニタリングする手法の高度化に取り組んでいます．
従来は，キーワード検索による抽出と人手による目視確認を組み合わせた方法が用いられてきましたが， 投稿内容の多様化により，文脈や意図を十分に考慮した判断が難しいという課題がありました． そこで本研究では，生成AI（GPT）を活用し， 投稿内容の文脈理解に基づく評価を導入しています． 各投稿について，地域との関連性や人権侵害の程度を評価し， 目視確認の補助および優先順位付けに活用しています．
なお，本手法は判定の自動化を目的とするものではなく， 最終的な判断は人が行う体制を維持しています． AIはあくまで人の判断を支援する役割として位置付けています．
さらに，過去の判定結果を用いたファインチューニングの検討により， 単語の一致だけでなく文章全体の意味や意図を踏まえた評価が可能となり， 間接的な差別表現への対応の可能性が示されています．
今後は，学習データの拡充と実運用への適用を進め， 人手とAIを組み合わせた高精度なモニタリング手法の確立を目指しています．