Apple Intelligenceのヘッドライン通知の要約にBBCが激しく非難

英国のBBCは、Appleの通知要約機能について苦情を申し立てた。iOS18記事の主旨を完全に捏造。何が起こったのか、そしてその理由は次のとおりです。

の導入アップルインテリジェンス要約機能が含まれており、文書の重要なポイントや通知のコレクションを提供することでユーザーの時間を節約します。金曜日、ある大手報道機関にとって通知の要約が大きな問題となった。

のBBC 苦情を言った要約を作成する際に、要約がニュースの見出しを誤解し、間違った結論を導き出すことについて Apple に報告しました。広報担当者は、「この懸念を提起し、問題を解決する」ためにアップルに連絡したと述べた。

公開訴状で提供された例では、次の内容を要約した通知が示されています。BBCニュースユナイテッドヘルスケアCEOブライアン・トンプソン殺害で逮捕された男について「ルイージ・マンジョーネが銃自殺」と述べている。拘留中のマンジョーネさんは元気だという。

「私たちの名で発表されたあらゆる情報やジャーナリズム（通知も含む）を視聴者が信頼できることが私たちにとって不可欠だ」と広報担当者は述べた。

不正確な要約は、学生だけの問題ではありません。BBCとして、ニューヨークタイムズも犠牲になりました。でブルースカイポスト11月21日の要約について、同紙は「ネタニヤフ首相が逮捕された」と主張したが、実際の話は国際刑事裁判所がイスラエル首相に逮捕状を発行したことに関するものだった。

Appleはコメントを拒否したBBC。

ニュースの幻覚

不正確な要約の例は「幻覚」と呼ばれます。これは、ニュース記事などの非常に明確なデータセットに直面した場合でも、AI モデルが完全に事実に基づいていない応答を導き出す場合を指します。

幻覚は、AI サービスにとって大きな問題となる可能性があり、特に消費者がクエリに対する直接的かつ単純な答えを求めている場合には顕著です。これはApple以外の企業も対処しなければならない問題でもある。

たとえば、Google の Bard AI (現在は Gemini) の初期バージョン、なんとなく組み合わせたマルコム・オーウェンAppleInsiderバンド「ザ・ラッツ」の亡くなった同名のシンガーと共作した作家。

幻覚は、トレーニング データやトレーニング プロセス自体の問題、学習されたパターンの新しいデータへの誤った適用など、さまざまな理由でモデルで発生する可能性があります。また、モデルにはデータ内の十分なコンテキストが欠如しており、完全に正しい応答を提供するよう求められたり、ソース データに関して誤った仮定を立てたりする可能性があります。

この場合、見出しの要約の問題の正確な原因は不明です。情報源の記事は銃撃犯については明確で、男性への襲撃については何も述べていない。

これはApple CEOの問題ですティム・クック理解されました潜在的な問題Apple Intelligenceの発表時。同氏は6月、「100％には届かない」ものの、それでも「非常に高品質」になるだろうと認めた。

8月には、Apple Intelligenceが特に次のような指示を出していたことが明らかになった。幻覚に対抗する、「幻覚を起こさないでください。事実の情報をでっち上げないでください」というフレーズが含まれています。

また、ユーザーが自分のデバイス上で実際に見ているものを監視しないことを選択したため、Apple が幻覚について多くのことをしたいか、あるいはできるかどうかも不明である。 Apple Intelligence は可能な限りデバイス上の処理を優先します。これは、Apple が実際の要約結果についてあまりフィードバックを返さないことを意味するセキュリティ対策でもあります。