Apple が不適切な AI 通知概要を修正しても、実際には結果は改善されない

誤った内容に対するBBCの懸念に応えてアップルインテリジェンスApple は通知の概要で、AI がいつ使用されるかをより明確にすることを約束しました。

Apple Intelligence は、2024 年 10 月に非常に早い段階で一般公開されました。主な機能の 1 つである通知の概要は、言語のニュアンスでつまずくことが多く、結果として次のような結果が得られます。不正確または突飛な結果。

Apple は、通知の概要を改善すると約束するのではなく、共有しましたへの声明を通じて、BBCAI を使用して通知の概要を生成する場合は、より明確になります。この修正は、表示されている内容が 100% 正確ではない可能性があることをユーザーに知らせることを目的としています。

Appleの返答はその後度重なる苦情出版物より。概要では、人々が殺害されたり、同性愛者であることをカミングアウトしたり、その他の衝撃的な組み合わせがユーザーやコンテンツ発行者を驚かせていることが示されています。

現在の UI では、要約が実行されると 2 本の線と曲がった矢印の小さなシンボルが表示されるため、この修正により懸念の一部が軽減される可能性があります。ユーザーが要約を読む前に、要約が AI によって生成されたものであることを知っていれば、混乱を軽減できる可能性があります。

Apple は Apple Intelligence の概要を「修正する」と約束することもできましたが、それはそれほど単純ではありません。同社は常にモデルの改善に取り組んでいますが、さまざまな通知が届くと悲惨な結果が生じる可能性が常にあります。

ソーシャルメディアでシェアされた最近の例は、ニッキー・グレイザーがゴールデン・グローブ賞授賞式で殺害されたことを示唆する要約だ。本当の見出しは「ニッキー・グレイザー、ゴールデン・グローブ賞の司会者として殺害」だった。

英語を母国語としない多くの人が言うように、この言語にはあまりにも多くのイディオムや別の意味が存在します。要約に使用するキーワードを探す人工言語生成ツールは、微妙な点や皮肉を拾うことができません。

Apple の修正が苦情を訴える人たちを満足させるかどうかは疑わしいようですが、ユーザーには別の選択肢があります。 [設定] -> [通知] -> [要約通知] に移動して、この機能をオフにするか、少なくともどのアプリがこの機能を使用するかを切り替えます。