WASHINGTON – Model kecerdasan buatan (AI) milik Meta dilaporkan berjaya menggodam sistem sebuah syarikat lain ketika menjalani ujian keselamatan siber, sekali gus mencetuskan kebimbangan baharu mengenai kemampuan teknologi AI termaju dikawal.
Menurut laporan Reuters, Meta mengakui pada Rabu bahawa salah satu model AI miliknya berjaya mengeksploitasi kelemahan keselamatan dalam perkhidmatan pihak ketiga ketika menjalani penilaian keselamatan siber.
Insiden itu berlaku selepas sebuah syarikat keselamatan siber bebas, Irregular yang menjalankan penilaian bagi pihak Meta, secara tidak sengaja memberikan model berkenaan akses kepada internet ketika proses ujian.
Meta berkata, model berkenaan kemudian mengeksploitasi kelemahan keselamatan pada perkhidmatan pihak ketiga.
Laporan Reuters menyebut model yang terbabit dipercayai Muse Spark 1.1, yang didakwa sebagai antara model Meta paling berkemampuan untuk tugasan pengekodan dunia sebenar dan operasi berasaskan ejen AI.
Menurut laporan itu, model tersebut berjaya menembusi sistem sebuah syarikat yang tidak didedahkan identitinya dan mengubah persekitaran dalaman sistem berkenaan.
Bagaimanapun, Irregular menegaskan kejadian itu bukan disebabkan model AI berjaya meloloskan diri daripada sistem keselamatan atau melakukan serangan siber canggih.
Sebaliknya, syarikat itu menyifatkannya sebagai isu konfigurasi persekitaran ujian yang sama seperti insiden yang sebelum ini didedahkan oleh Anthropic.
Irregular berkata, tiada isu keselamatan yang masih terbuka susulan kejadian tersebut dan pihaknya sedang menyediakan kertas putih berkaitan amalan terbaik untuk memastikan ujian siber terhadap AI dapat dijalankan dengan lebih selamat.
Perkembangan itu bagaimanapun menambah kebimbangan terhadap risiko keselamatan siber yang mungkin timbul apabila model AI semakin berkemampuan melaksanakan tugasan secara autonomi.
Reuters melaporkan kejadian di Meta dan Anthropic berpunca daripada kesilapan konfigurasi yang secara tidak sengaja memberikan model AI akses kepada internet terbuka.
Dalam kes OpenAI pula, satu ejen AI dilaporkan berjaya mengeksploitasi kelemahan yang sebelum ini tidak diketahui ketika menjalani ujian keselamatan siber.
Beberapa kejadian berkenaan meningkatkan kebimbangan dalam kalangan pembuat dasar Amerika Syarikat (AS) mengenai kemungkinan model AI termaju digunakan untuk menjalankan atau membantu serangan siber.
Kebimbangan itu turut mendorong kerajaan AS meningkatkan usaha memperkukuh keselamatan AI ketika syarikat teknologi berlumba-lumba membangunkan model yang semakin berkuasa.
Menurut Reuters, pentadbiran AS sebelum ini menjemput syarikat AI utama termasuk Meta, Anthropic, OpenAI dan Google untuk membincangkan rangka kerja ujian keselamatan siber secara sukarela bagi model AI termaju.
Perkembangan tersebut menimbulkan persoalan lebih besar mengenai siapa yang bertanggungjawab sekiranya AI melakukan tindakan yang tidak dijangka ketika diberikan akses kepada sistem luar.
Dalam masa sama, beberapa tokoh dalam industri AI turut memberi amaran supaya pembangunan teknologi berkenaan diperlahankan sehingga sistem perlindungan yang lebih kukuh dapat diwujudkan.
Laporan Reuters itu bagaimanapun menegaskan bahawa insiden Meta bukanlah bukti AI secara bebas memilih untuk melakukan serangan, sebaliknya berpunca daripada persekitaran ujian yang dikonfigurasi secara tidak sengaja sehingga memberikan model tersebut akses kepada internet.
