OpenAI、Sora AIによるマーティン・ルーサー・キング・ジュニア牧師の動画を一時停止。「不適切な」ディープフェイクがアプリに溢れているため from CNET(Products)

OpenAIは、ソーシャルメディアアプリSorA上でユーザーがAIディープフェイクを作成する機能を無効化しました。
同社は、著名人やその家族が最終的には肖像の利用方法を管理すべきだと考えていると述べ、著名人から招待コードなどの特典を求めるユーザーからの要請があれば、権限のある代理人がSorAのバージョンにそのような動画を含めないよう要請できるとしています。
注目すべきは、テイラー・スウィフトが撮影した類似の肖像を使ってKing’dの動画が作成されたことです。