Pasca Bubarkan Tim Keselamatan AI, OpenAI Bentuk Komite Keamanan yang Tuai Kritik
0
0
gospelangolano.com, Jakarta – OpenAI baru saja mengumumkan pembentukan komite keselamatan dan keamanan baru. Pembentukan tersebut terjadi setelah perusahaan membubarkan tim yang bertugas melindungi masyarakat dari ancaman kecerdasan buatan (AI).
Menurut Engadget (31/5/2024), komite keselamatan dan keamanan OpenAI akan dipimpin oleh Bret Taylor, Nicole Seligman, dan Adam D’Angelo, serta CEO perusahaan Sam Altman.
Komite keselamatan ini, meski baru dibentuk, mendapat kritik. Sebab, panitianya masih diisi oleh pengurus OpenAI.
Untuk itu, banyak pihak menilai aksi tersebut bukan sekadar upaya pencitraan dalam ketatnya persaingan di bidang kecerdasan buatan.
Meski mendapat kritik, Komite Keselamatan dan Keamanan perusahaan yang memproduksi ChatGPT sudah memiliki kerangka kerja. Mereka berencana untuk mengevaluasi dan mengembangkan proses dan keamanan perusahaan selama sembilan puluh hari ke depan.
Hasil penilaian kemudian dipresentasikan kepada seluruh dewan dan dipublikasikan. Dengan formasi ini, OpenAI mengonfirmasi sedang melatih model baru untuk menggantikan GPT-4.
Dengan senang hati kami menginformasikan kepada Anda bahwa tim baru ini telah dibentuk setelah pengunduran diri Pendiri OpenAI Ilya Sutzkever dan Peneliti Keamanan Senior OpenAI Jan Leicke. Mereka berdua memimpin tim Superalignment di OpenAI.
Perlu diperhatikan bahwa OpenAI membentuk tim manajemen risiko AI khusus pada bulan Juli tahun lalu. Namun kini, tim tersebut belum ditutup.
Kepergian Lake terkait erat dengan kekhawatirannya terhadap OpenAI, yang ia yakini tidak akan lagi mengatasi masalah keamanan seiring dengan semakin pintarnya AI. Perusahaan diyakini lebih memilih menghadirkan produk yang menarik.
Sebelumnya, OpenAI mulai membuka ChatGPT untuk pengguna yang tidak terdaftar. Langkah ini merupakan bagian dari misi perusahaan untuk memperluas penggunaan alat seperti ChatGPT untuk membantu orang merasakan manfaat kecerdasan buatan.
Hal ini akan memberikan lebih banyak informasi pelatihan kepada perusahaan dan mendorong lebih banyak pengguna untuk membuat akun dan mendaftar untuk akses GPT-4 melalui model GPT-3.5 gratis.
Namun perlu diingat bahwa OpenAI diluncurkan secara bertahap, sehingga tidak semua pengguna dapat menggunakan fitur baru ini.
Menurut OpenAI, mereka telah menambahkan perlindungan ekstra untuk pengguna tanpa akun, seperti memblokir perintah dan membuat gambar di kategori lain.
Menurut perwakilan OpenAI, pertimbangan diberikan mengenai bagaimana pengguna GPT-3.5 yang tidak terdaftar dapat menimbulkan ancaman baru.
Seorang juru bicara yang dikutip di Engadget pada Selasa, 4 Februari 2024 mengatakan: “Tim yang ditugaskan untuk mendeteksi dan menghentikan penyalahgunaan model AI telah terlibat dalam membangun kemampuan baru dan akan membuat perubahan ketika ancaman yang tidak terduga muncul.
OpenAI mengklaim lebih dari 100 juta orang di 185 negara menggunakan ChatGPT setiap minggunya.
Itu adalah layanan 18 bulan yang mengesankan dari sebuah perusahaan yang belum pernah didengar banyak orang dua tahun lalu.
Promosi hari ini menawarkan insentif kepada orang-orang yang ragu untuk membuat akun chatbot AI, yang dapat meningkatkan jumlah mereka.
Chatbot ChatGPT OpenAI, atau bot percakapan, kini lebih canggih dan dipersonalisasi dengan fitur-fitur baru.
Sekarang chatbot AI OpenAI, ChatGPT, dapat mengingat percakapan dan interaksi Anda sebelumnya dan menggunakannya sebagai referensi untuk percakapan di masa mendatang.
Dalam “memori digital” yang terlibat dalam presentasi teknologi ini, diperbolehkan untuk memberikan informasi tentang obrolan dan interaksi teknologi ini, informasi tentang komunikasi.
Fitur memori digital ini dirancang untuk menjadikan ChatGPT lebih personal dan mudah digunakan, sehingga Anda serasa sedang berbicara dengan teman.
Mengutip The Verge (15-2-2024), memori digital ChatGPT bekerja dalam dua cara, artinya chatbot mengingat hal-hal spesifik tentang Anda.
Misalnya, apakah Anda selalu menulis kode dengan Javascript, apakah Anda ingat nama atasan Anda saat mengirim email, atau apakah chatbot ini mengingat apakah anak Anda alergi terhadap sesuatu?
Alternatifnya, ChatGPT dapat mengumpulkan informasi ini seiring berjalannya waktu, menyimpan informasi tentang Anda, dan segera menanggapi pertanyaan.
Selain itu, setiap GPT spesifik yang Anda gunakan memiliki memorinya sendiri. Misalnya, OpenAI secara otomatis mengingat judul dan jenis buku yang Anda baca dan sukai saat Buku GPT aktif.
Fitur pengenalan pengguna memori OpenAI ini mungkin tampak mengejutkan, namun kenyataannya banyak perusahaan teknologi yang menggunakan metode ini.
Berbagai platform dan platform media sosial menggunakan hal serupa untuk mempelajari kebiasaan browsing Internet pengguna, seperti preferensi dan pencarian mereka di situs e-commerce.
Berdasarkan data tersebut, perusahaan akan mengembangkan profil secara berkala dan kemudian merekomendasikannya kepada pengiklan.
Menurut OpenAI, mereka telah menempatkan memori ChatGPT di bawah kendali pengguna dan melatih sistem untuk tidak mengingat hal-hal sensitif seperti informasi kesehatan Anda.
“Anda selalu dapat bertanya kepada ChatGPT apa yang diketahuinya tentang Anda, dan Anda dapat memberitahu bot untuk melupakan atau menghapus sesuatu di menu manajemen memori digital,” kata perusahaan itu.
