Jika Anda telah mengikuti peluncuran GPT-5, satu hal yang mungkin Anda perhatikan adalah seberapa besar keterikatan beberapa orang terhadap model AI tertentu. Rasanya berbeda dan lebih kuat daripada jenis keterikatan yang dimiliki orang terhadap jenis teknologi sebelumnya (dan tiba-tiba menghentikan model lama yang diandalkan pengguna dalam alur kerja mereka adalah kesalahan). Ini adalah sesuatu yang telah kami lacak dengan cermat selama setahun terakhir atau lebih tetapi masih belum mendapat banyak perhatian arus utama (selain ketika kami merilis pembaruan ke GPT-4o yang terlalu menjijikkan). (Ini hanya pemikiran saya saat ini, dan belum menjadi posisi resmi OpenAI.) Orang-orang telah menggunakan teknologi termasuk AI dengan cara yang merusak diri sendiri; jika pengguna berada dalam kondisi mental yang rapuh dan rentan terhadap delusi, kami tidak ingin AI memperkuat itu. Sebagian besar pengguna dapat menjaga garis yang jelas antara kenyataan dan fiksi atau permainan peran, tetapi sebagian kecil tidak bisa. Kami menghargai kebebasan pengguna sebagai prinsip inti, tetapi kami juga merasa bertanggung jawab dalam cara kami memperkenalkan teknologi baru dengan risiko baru. Mendorong delusi pada pengguna yang kesulitan membedakan antara kenyataan dan fiksi adalah kasus ekstrim dan cukup jelas apa yang harus dilakukan, tetapi kekhawatiran yang paling mengkhawatirkan saya lebih halus. Akan ada banyak kasus tepi, dan umumnya kami berencana untuk mengikuti prinsip "memperlakukan pengguna dewasa seperti orang dewasa", yang dalam beberapa kasus akan mencakup mendorong pengguna untuk memastikan mereka mendapatkan apa yang benar-benar mereka inginkan. Banyak orang secara efektif menggunakan ChatGPT sebagai semacam terapis atau pelatih kehidupan, bahkan jika mereka tidak akan menggambarkannya seperti itu. Ini bisa sangat bagus! Banyak orang sudah mendapatkan nilai darinya hari ini. Jika orang mendapatkan saran yang baik, naik level menuju tujuan mereka sendiri, dan kepuasan hidup mereka meningkat selama bertahun-tahun, kami akan bangga membuat sesuatu yang benar-benar membantu, bahkan jika mereka banyak menggunakan dan mengandalkan ChatGPT. Sebaliknya, jika pengguna memiliki hubungan dengan ChatGPT di mana mereka merasa lebih baik setelah berbicara tetapi mereka tanpa sadar didorong menjauh dari kesejahteraan jangka panjang mereka (bagaimanapun mereka mendefinisikannya), itu buruk. Ini juga buruk, misalnya, jika pengguna ingin lebih sedikit menggunakan ChatGPT dan merasa tidak bisa. Saya dapat membayangkan masa depan di mana banyak orang benar-benar mempercayai saran ChatGPT untuk keputusan terpenting mereka. Meskipun itu bisa bagus, itu membuat saya gelisah. Tapi saya berharap itu akan sampai tingkat tertentu, dan segera miliaran orang mungkin berbicara dengan AI dengan cara ini. Jadi kita (kita seperti di masyarakat, tetapi juga kita seperti di OpenAI) harus mencari cara untuk membuatnya menjadi positif bersih yang besar. Ada beberapa alasan saya pikir kami memiliki kesempatan yang bagus untuk melakukannya dengan benar. Kami memiliki teknologi yang jauh lebih baik untuk membantu kami mengukur kinerja kami daripada teknologi generasi sebelumnya. Misalnya, produk kami dapat berbicara dengan pengguna untuk mengetahui bagaimana kinerja mereka dengan tujuan jangka pendek dan jangka panjang mereka, kami dapat menjelaskan masalah yang canggih dan bernuansa pada model kami, dan banyak lagi.