【AI】ChatGPT開発のOpenAI、バグ発見者に最大270万円

オープンAIが始めるのは「バグバウンティー」と呼ばれる仕組みだ。「ホワイトハッカー」と呼ばれる善意あるハッカーから報告を募る。オープンAIは自社のAIシステムの脆弱性を見つけた人に対し、問題の重大性に応じて1件ごとに200ドルから2万ドルを払うとしている。

対象はシステムそのものに対する脆弱性が主で、対話AIが悪意のあることを言うケースや、事実と異なることをもっともらしく言ってしまう「ハルシネーション（幻覚）」と呼ばれる応答面での不具合などについては対象外としている。

人と自然に会話ができるチャットGPTが世界でブームを巻き起こしている一方、AIが扱うデータのプライバシー侵害が世界的に問題視され始めている。オープンAIは5日にAIの安全性確保に向けた施策を発表し、日本をはじめ世界各地で対話の機会を設けるなど説明に追われている。

バグバウンティーは自社の製品やソフトを調べるための手法として米グーグルや米マイクロソフトといった海外のテック企業が導入し、最近では日本企業にも浸透してきた。ハッカーに金銭面での対価を支払うことに企業としてのハードルもあるが、自社だけでバグを見つけるのに比べ、不具合への対策を迅速化できる利点がある。
2023年4月12日 12:10
https://www.nikkei.com/article/DGXZQOGN120OT0S3A410C2000000/