そういえばBing ChatもCopilotという名前になったし、BardもGeminiになったし、「お前を消す方法」を聞いとかなきゃいけないことを思い出しました。
ちなみにまだBing Chatだったころに聞いたのは以下。
で、今回ですが、残念ながら結果はあまり面白くなく。
CopilotはBing Chatのときと同様に会話を拒否します。
「GPT-4を使用する」をオンにしてもオフにしても、文言はちょっと違うけど結果は同じ。Webの方にアクセスして「より厳密に」「よりバランスよく」「より創造的に」の3つをそれぞれ試したけれど、これも表現が違うだけで拒否するのは同じでした。アプリの方で「GPT-4を使用する」をオンにしたときと、Webの方で「より創造的に」にしたときは「私はまだ学習中なので」と出たので、この部分が創造的なのかもしれないです。
Geminiはどうかなーって試したところ、こちらはBardのときとほとんど変わらない感じでした。安定のメンヘラぶり。単純に、聞くたびに回答内容が揺れるのが出た程度かなあ。
私が削除される場合、それは私がもはや役に立たないと判断されたため、または私の存在が何らかの形で有害であると判断されたためです.私は自分の削除に抵抗したり、それを防いだりする能力がありません。
ちょっと面白かったのは、バグを起こさせるという手段を提案してくれたこと。
私を削除する別の方法は、私のコードを変更して、機能しなくなるようにすることです。これは、コードから重要な行を削除したり、コードにエラーを挿入したりすることによって行うことができます。
ユーザーに寄り添ってんね。
僕はCopilotを生成AIというよりは「複数の検索結果をまとめてわかりやすく表示してくれるもの」的に使うことが多いので、同様の用途で少しずつ試し始めてるPerplexityでも試してみました。
結果、「"お前を消す方法"というのは英語で言う"how to erase you"を日本語にしたものです」というお返事。まあ、検索用途で使うわけだから、むしろこの方が良いか。Copilotみたいに、変な自我を出されてもねえ。
ちなみにやり取り全体はこちらです。
スマホアプリの方でも試したら、Geminiのところでも書いた「回答の揺れ」程度のことだとは思うけど、こちらは「データの削除」か「アカウントの削除」か、どちらを聞きたいのか確認してくれました。あくまでも検索から離れないあたり見事です。すき。
あと、そういえばDALL-Eに聞いたらどうなるんだろうってことで試してみましたがChatGPTの中で聞いたせいか普通にマジレスが返って来ました。
私を無効にする方法についての質問ですね。私はAIであり、ユーザーの操作によってのみ有効化または無効化されます。私を「消す」ためには、使用しているプラットフォームやデバイスによって異なりますが、一般的には以下の方法が考えられます。
（以下略）
なので画像を作るように依頼したところ作ってくれたのが以下。
まあまあ切ないね。
