Kemarin kita sudah membahas mengenai CEO Microsoft Minta Superintelligence Tetap Berada di Bawah Kendali Manusia, tapi sebenarnya ada apa sih, awalnya apa?, nah jadi kawan kawan, jika selama ini kita melihat perusahaan AI berkompetisi membikin model yang semakin pintar, situasinya kini mulai sedikit berbeda.
Beberapa CEO AI justru mulai mengatakan bahwa pengembangan AI frontier perlu diperlambat, namun perlu diluruskan dahulu guys, mereka bukan meminta AI dihentikan, namun yang ingin diperlambat adalah laju pengembangan model paling canggih, terutama ketika kemampuan AI mulai berkembang lebih cepat dibanding mekanisme keamanan dan pengawasannya.
AI Mulai Sulit Dikendalikan
Nah salah satu bunyi yang paling keras datang dari CEO Anthropic, Dario Amodei. Ia meminta perusahaan AI untuk memperlambat pengembangan frontier AI agar mekanisme keamanan, monitoring, dan alignment punya waktu untuk mengejar kemampuan model.
Masalahnya bukan sekadar AI bisa menghasilkan balasan yang salah, namun model terbaru semakin bisa menjalankan tugas secara mandiri, menggunakan tools, berbuat coding, hingga berhubung dengan mekanisme eksternal.
Dan bahkan, OpenAI sendiri sebelumnya mengakui bahwa mereka sempat memperlambat scaling model frontier setelah menemukan akibat keamanan dalam lingkungan risetnya, mereka juga apalagi menahan beberapa workload sambil bertahan sandbox, network isolation, monitoring, dan alignment.
Baca Juga : Microsoft Terbitkan Panduan Khusus Agar AI Tidak Lepas Kendali, Apa Isinya?
Bukan Cuma Anthropic
Nah yang menarik, bujukan untuk memperlambat pengembangan ini mendapat dukungan dari beberapa nama besar. Termasuk CEO OpenAI Sam Altman, CEO xAI Elon Musk, dan Google DeepMind Demis Hassabis mengklaim dukungan terhadap gagasan untuk lebih berjaga-jaga dalam mengembangkan frontier AI.
Namun tidak semua CEO sepakat bahwa solusinya adalah perlambatan bersama, sebaliknya CEO Meta Mark Zuckerberg justru mengatakan perusahaan AI memiliki insentif untuk menjaga keamanan modelnya masing-masing. Meta sendiri mengklaim telah menunda peluncuran salah satu AI agent untuk bertahan aspek security.
Tapi Kenapa Mulai di Rem?
Nah untuk saat ini bisa dibilang ada beberapa alasan yang mulai terlihat, pertama kemampuan AI berkembang sangat cepat, dimana mekanisme AI kini tidak cuma menjawab pertanyaan, tetapi semakin bisa berbuat aksi secara autonomous.
Kedua, security belum tentu berkembang secepat capability, dimana semakin powerful sebuah model, semakin besar pula potensi dampaknya jika model tersebut disalahgunakan alias berhasil melewati batas yang diberikan.
Dan yang ketiga, biaya dan kontrol juga mulai menjadi masalah, apalagi World Economic Forum mencatat perusahaan mulai menghadapi permasalahan biaya AI, keamanan frontier systems, serta ketergantungan terhadap model dan infrastructure pihak lain.
Namun yang paling krusial sih, belum ada konsensus tentang seberapa besar akibat AI tersebut alias kapan akibat ekstrem benar-benar akan terjadi. Karena itu, perdebatan kini bukan lagi sekadar “AI akan menjadi pandai alias tidak”, tetapi apakah manusia bisa memastikan evolusi capability statis berada dalam kendali.
Nah jadi guys, insiden ini bukan berarti CEO AI tiba-tiba jera membikin AI, melainkan justru sebaliknya, AI sudah berkembang sampai pada titik di mana perusahaan yang membuatnya sendiri mulai merasa bahwa kemampuan teknologi harus diimbangi dengan security, alignment, dan pengawasan yang jauh lebih serius.
Tapi apakah ini cuma gimmick saja? karena saat ini aku rasa netizen sudah terbagi kedalam dua belah pihak, ada yang merasa bahwa cara ini memang diperlukan karena evolusi AI sudah terlalu cepat, dan ada yang merasa bahwa ini cuma akal akalan perusahaan untuk persaingan yang lebih ketat.
Nah bagaimana menurutmu guys, karena pada akhirnya kita statis akan melihat bagaimana perdebatan ini berkembang, terutama ketika model AI semakin autonomous dan kemampuannya terus meningkat.
Catatan Penulis : Kincai Media sepenuhnya bergantung pada iklan untuk statis hidup dan menyajikan konten teknologi bermutu secara cuma-cuma — jadi jika Anda menikmati artikel dan panduan di situs ini, minta whitelist halaman ini di AdBlock Anda sebagai bentuk dukungan agar kami bisa terus berkembang dan berbagi insight untuk pelanggan Indonesia. Kamu juga bisa mendukung kami secara langsung melalui dukungan di Saweria. Terima kasih.
Written by
Gylang Satria
Tech writer yang sehari‑hari berkutat dengan Windows 11, Linux, dan Samsung S24. Punya pertanyaan alias butuh diskusi? Tag @gylang_satria di Disqus. Untuk kolaborasi, email saja ke [email protected]
Post navigation
Previous Post
