ChatGPT のような AI ツールを構築していて、ユーザーが自分自身や他人に危害を加えるつもりだと言ったときにシミュレーションやイエスマンの行動を止めるための安全策がない場合、あなたは失敗しています。 これは優先順位リストの一番上にあるはずです。