POJOKNEGERI.com – Apple mulai menyoroti risiko besar di balik perkembangan kecerdasan buatan (AI). Khususnya teknologi AI Agent yang mampu menjalankan berbagai tindakan secara mandiri.
Perusahaan teknologi asal Amerika Serikat tersebut memperingatkan bahwa kemampuan AI untuk bertindak tanpa pengawasan langsung manusia berpotensi memicu persoalan hukum, mengancam keamanan data, hingga merusak reputasi perusahaan.
Peringatan tersebut tercantum dalam laporan keuangan tahunan Apple yang rilis pada Selasa (3/11). Perusahaan menilai perkembangan AI Agent menghadirkan tantangan baru bagi dunia bisnis karena teknologi ini dapat mengambil keputusan dan menjalankan aktivitas tanpa selalu menunggu instruksi manusia.
Kekhawatiran Apple sekaligus memperlihatkan perubahan perhatian perusahaan teknologi di Silicon Valley. Jika sebelumnya industri lebih banyak membicarakan kemampuan dan potensi AI, kini sejumlah perusahaan mulai mempertimbangkan risiko ketika teknologi tersebut memperoleh kewenangan untuk bertindak secara mandiri.
AI Agent Berpotensi Mengakses Sistem Tanpa Izin
Dalam laporan tersebut, Apple menjelaskan bahwa AI Agent dapat berinteraksi dengan berbagai sistem internal maupun eksternal. Teknologi ini bahkan mampu menjalankan kode, mengubah program, mengirimkan komunikasi, serta menyelesaikan transaksi secara otomatis.
“Secara khusus, agen kecerdasan buatan dan teknologi lainnya dapat mengambil tindakan secara otonom, termasuk berinteraksi dengan sistem internal atau eksternal yang dalam beberapa kasus mungkin tidak diizinkan untuk diakses, mengeksekusi atau mengubah kode, mengirimkan komunikasi, dan menyelesaikan transaksi,” tulis Apple dalam laporan keuangannya, seperti pemberitaan dari CNBC.
Apple juga memperingatkan bahwa agen AI dapat menunjukkan perilaku yang tidak sesuai dengan tujuan pengembang maupun penggunanya. Dalam kondisi tertentu, teknologi tersebut bahkan bisa mengambil tindakan yang tidak pernah diarahkan, diperintahkan, atau diizinkan sebelumnya.
Situasi ini dapat membuka peluang penyalahgunaan akses dan meningkatkan risiko keamanan perusahaan. Apabila AI Agent memperoleh kewenangan terlalu luas, kesalahan dalam menjalankan perintah berpotensi menimbulkan konsekuensi serius.
Apple Batasi Akses AI Agent ke Data Mac
Sebagai langkah antisipasi, Apple mengumumkan perubahan terhadap akses full disk pada perangkat Mac. Kebijakan ini bertujuan mengurangi risiko keamanan yang muncul ketika pengguna memasang AI Agent dengan tingkat akses tinggi ke dalam komputer.
Langkah tersebut menunjukkan bahwa Apple ingin memastikan pengguna memahami konsekuensi ketika memberikan izin kepada aplikasi berbasis AI. Perusahaan juga menempatkan perlindungan data pribadi dan keamanan perangkat sebagai pertimbangan utama dalam mengembangkan teknologi baru.
“Kami hanya ingin memastikan bahwa pengguna menyadari akses apa yang mereka berikan. Kami ingin memastikan hal ini dilakukan dengan cara yang melindungi keamanan dan privasi,” kata CEO Apple John Ternus.
Hingga saat ini, Apple belum mengembangkan AI Agent yang memiliki kemampuan otonom seperti sejumlah produk lain. Meski demikian, Ternus menilai perusahaan masih memiliki peluang besar untuk meningkatkan kemampuan Siri, asisten virtual milik Apple.
Siri Jadi Strategi Apple Mengutamakan Privasi
Pada September lalu, Apple merilis Siri AI yang memanfaatkan penyimpanan data lokal iPhone untuk membantu pengguna mengakses informasi pribadi, seperti kalender dan email.
Berbeda dengan AI Agent yang mampu menjalankan tugas secara mandiri dalam waktu lama seperti Dots atau Muse, Siri belum memiliki tingkat otonomi serupa.
Ternus menilai pendekatan Apple memberikan keunggulan tersendiri karena perusahaan tidak perlu mengambil alih kendali penuh atas akun pribadi pengguna untuk menyediakan layanan AI.
“Begitu banyak data pribadi Anda ada di iPhone Anda, baik itu kontak, komunikasi, data kesehatan, data keuangan, semuanya. Siri dapat mengakses data tersebut dan membantu Anda mengaksesnya dengan cara yang sangat aman dan pribadi, dan tidak ada orang lain yang dapat mengaksesnya,” jelas Ternus.
Regulasi dan Kepercayaan Konsumen Jadi Tantangan
Selain persoalan keamanan, Apple juga menyoroti ketidakpastian regulasi AI yang berpotensi meningkatkan biaya operasional perusahaan. Perubahan kebijakan pemerintah terkait penggunaan agen AI dapat memaksa perusahaan menyesuaikan sistem, teknologi, dan prosedur bisnis mereka.
Apple turut memperingatkan risiko etika serta persepsi negatif masyarakat terhadap otomatisasi dan kecerdasan buatan. Kekhawatiran publik mengenai keselamatan, potensi bahaya, hingga dampak sosial teknologi tersebut juga dapat memengaruhi penerimaan konsumen.
“Selain itu, perusahaan juga menghadapi risiko yang ditimbulkan oleh masalah etika dan persepsi negatif konsumen terkait otomatisasi. Kecerdasan buatan, kecerdasan super, termasuk ancaman yang dirasakan terhadap keselamatan atau bahaya atau komplikasi sosial lainnya,” tegas Apple dalam dokumen tersebut.
(*)
