App Danger ProjectのAIツールによる警告を受けて、AppleはApp Storeから10個のアプリを削除

App Danger ProjectのAIツールによる警告を受けて、AppleはApp Storeから10個のアプリを削除

ニューヨーク・タイムズ紙の記事は、AppleがApp Storeの監視で直面している課題について読者に伝えている。また、「App Danger Project」というウェブサイトについても取り上げている。このウェブサイトは、親が子供のデバイスにインストールされている可能性のあるアプリを監視し、危険と思われるアプリがあれば警告を発するのを支援することを目的としている。このウェブサイトは、機械アルゴリズムを用いて危険なアプリをフラグ付けしている。

App Danger Projectは現在、AppleのApp StoreとGoogleのPlay Storeで、「少なくともいくつかのレビューで危険性が示されている」とフラグが付けられたアプリを182個リストアップしている。

リストはプラットフォーム別にフィルタリングできます。Appleのみにフィルタリングすると、146個のアプリを含むリストが表示されます。

このウェブサイトでは、保護者が両方のアプリストアからアプリを検索し、選択したレビューを閲覧できる検索ツールも提供しています。検索結果に表示されるレビューには、児童ポルノ、小児性愛者、その他アプリが児童搾取に使用されていることを示す兆候を含むものが含まれています。

Snapchatを検索すると、「このアプリは子供にとって安全ではない」ことを示すレビューが23件表示されます。Instagramを検索しても、警告されたレビューは0件です。TikTokを検索すると、このアプリがまだApp Danger Projectのデータベースに登録されていないことがわかります。

NYT、AppleがApp Danger Projectのリストにあるいくつかのアプリを調査した後、App Storeから10個のアプリを削除したと報じている。

AppleはApp Danger Projectがリストアップしたアプリも調査し、配信規則に違反する10個のアプリを削除した。削除したアプリのリストや、その理由については明らかにしていない。

「当社のアプリ審査チームは24時間365日体制で、すべての新規アプリとアプリのアップデートを慎重に審査し、Appleの基準を満たしていることを確認しています」と広報担当者は声明で述べた。

App Danger Project の詳細と背景情報については、New York Times の記事をお読みください。