私が作成した助けを求めるシグナルが口コミで広まりました。今では悪用される可能性があります from WIRED(Ideas)

2020 年には、友人、家族、傍観者に「安全な方法でチェックインする必要があります」と伝える手信号である Signal for Help の作成を手伝いました。
危険な状況で助けを求めるためにSignal for Helpを使用している女性や少女の事例がニュースになっています.たとえば、ある女性は停車中に助けを求める信号を使用して、虐待的な夫に助けを求めました。
AI カメラ ツールを使用している企業が、Signal for Help の認識を自社のセキュリティ システムに組み込むことについて問い合わせを求めており、同様のアマチュアの試みがソーシャル メディアで議論されています。
自動検出は、ビデオ通話の反対側にいる善意の友人や同僚が、Signal for Help を使用している人を見逃す可能性がある場合に役立ちます。
Signal for Help の場合、虐待者は安全のために設計された同じ AI メカニズムを使用して、被害者が Signal for Help を使用しようとしていることを警告する可能性があります。
また、人間の苦痛を検出する AI ツールには他にも問題があります。