Facebookの自殺防止ツールは実際に役に立っているのか？

taraiok 曰く、

Facebookでは、2017年頃から機械学習を利用した自殺予防・通報システムが採用されてきた。Mark Zuckerberg CEOによると、1年間で3500人に対して救済支援が行われたとされている。しかし、ハーバード大学の精神科医John Torous氏は、このツールが誤認識などにより、救済されたとされるユーザーの精神衛生や健康上の問題を悪化させていないか懸念している（SFGATE、slashdot）。

Torous氏は、Microsoftなどと共同で同様の研究をしてきたが、Facebookの自殺予防・通報システムについての情報はついぞ聞いたことがなかったという。これは、Facebookがこのツールについての情報を研究者、医学や科学界と共有していなかったためだ。実際、Facebookはツールがどのように機能するかについてのデータは今の時点でも公開されていない。

同氏は、このツールを使用したことによる救済効果は個人情報の観点から公開されず、検証できない点も問題視している。同様の問題は個人情報を取り扱うApple WatchやAmazon Alexa、そして瞑想アプリのようなものでさえも抱えている問題だと指摘している。