報道機関は「信頼できる」AI チャットボットを構築できるでしょうか?

佐藤ミアは、テクノロジーを形作る企業とそのツールを使用する人々を取材してきた 5 年の経験を持つプラットフォームおよびコミュニティ レポーターです。

ニュース出版社は人工知能に真っ先に取り組み、生成型 AI ツールを使用して当たり障りのない旅行ガイド、不正確な映画ブログ、SEO 餌の説明文を作成しています。 全体としての目標は、ライターに追加料金を支払わずに、より多くの広告ページを作成できるかどうかということでした。

現在、テクノロジー関連報道機関のグループは、自社の Web サイトに生成 AI を組み込もうとしているが、読者はすぐにマシンの署名欄を見つけることはできないだろう。 8 月 1 日、AI チャットボット ツールが Macworld、PCWorld、Tech Advisor、TechHive に追加され、読者が「当社の専門家によるストーリーとレビューのみに基づいて、AI によって技術的な質問に回答できる」ことが約束されました。

Smart Answers と呼ばれるこの AI チャットボットは、ほぼすべての記事と、メディア/マーケティング会社 Foundry が所有するサイトのホームページに表示されます。 Smart Answers は、4 つのサイトの英語記事のコーパスのみでトレーニングされており、スポンサー付きコンテンツやセール投稿は除外されています。 ユーザー エクスペリエンスは、ChatGPT などの他の消費者向けツールと似ています。読者が質問を入力すると、Smart Answers が応答を返します。 あるいは、読者は FAQ リストからクエリを選択することもできます。このリストは AI によって生成されますが、ユーザーが質問したりクリックした内容に基づいています。 Smart Answers の応答には、情報の取得元となった記事へのリンクが含まれています。

目標は、山積みの文章の中から特定の情報を探している読者を支援することだと経営陣は言う。

「私たちは膨大な量のコンテンツを持っています。 しかし、素晴らしいジャーナリズムの 2,000 語を読みたくない場合もあります。特定の事実だけが必要な場合もあります」と、Foundry の製品およびデータ担当グローバル ディレクターのニール・ベネット氏は The Verge に語った。

ベネット氏によれば、同社は発売前に約 5 か月にわたって Smart Answers の開発に取り組み、編集スタッフとともに 2 ～ 3 か月間テストを実施したという。 編集スタッフの作業グループは、ツールの初期バージョンをテストし、回答に満足するまで回答を採点しました。

「このテストで本当に注意する必要があったのは、彼らが与える答えが本当に信頼できるものであり、編集者が与える答えと同じであるということです」と、Foundry の編集ディレクター、マリー ブラックは言います。

Smart Answers は、ユーザーが他の AI ツールで経験した重要な問題、つまり、間違いを犯したり、存在しない情報源を引用したり、もっともらしいと思われる誤った情報をでっち上げたりする傾向に対処できるのではないか、という考えです。 Smart Answers は、評判の高い媒体による出版の基準を満たす必要があるコンテンツについてのみトレーニングされていますが、チャットボットが編集者レベルの応答を提供できる可能性があると言うのは、依然として大きな約束です。

Smart Answers は、簡単そうに見えるクエリに苦労します。 チャットボットに「最後に iPod Nano がリリースされたのはいつですか?」と尋ねたところ、 2022 年に発売され廃止されると誤って記載されていました。数日後、「この質問に答えるのに十分な情報がありません。」と返答が変わりました。

チャットボットはこのように応答することがよくあります。 たとえば、TikTok の CEO が誰であるかはわかりません。 これは、Foundry の販売店が行っている (または行っていない) 報道の種類を反映している可能性があります。 これは制限であると同時に良いことのようにも感じられます。一方で、このツールを使用している人には、他の場所に行かないと答えが得られない質問がまだある可能性があります。 しかし、このような場合、少なくとも、応答するためだけに何かをでっち上げているわけではありません。

iPod Nano に関するクエリの場合、Black 氏は、おそらくチャットボットは何年も更新されていなかった iPod に関する古い記事を引っ張ってきているのではないかと示唆しました。 (このデバイスは 2017 年に廃止されました。) このようなエラーの場合、Foundry は応答の有用性に関するユーザーのフィードバックに依存しています。読者やスタッフが問題を見つけた場合、Foundry のチャットボットを構築している AI 会社、Miso.AI に問題が戻されます。

Smart Answers には、アフィリエイト収入という別の目的もあります。