Bunyinya seperti jalan cerita filem fiksyen sains. Tetapi kali ini amaran tersebut datang daripada Dario Amodei, Ketua Pegawai Eksekutif Anthropic — syarikat di sebalik AI Claude.
Dalam kenyataan terbaharunya, Amodei memberi amaran bahawa perkembangan AI yang terlalu pantas boleh menyebabkan sistem AI yang beroperasi secara berkumpulan menjadi jauh lebih berbahaya jika kemampuan keselamatan tidak sempat mengejar perkembangan teknologi.
Beliau menggesa industri AI supaya memperlahankan kadar peningkatan keupayaan model AI frontier, bukannya menghentikan pembangunan AI sepenuhnya.
😱 Apa Maksud “AI Kuasai Internet”?
Amodei tidak mengatakan AI akan tiba-tiba mengambil alih internet esok atau tahun depan.
Sebaliknya, beliau memberi amaran bahawa dalam tempoh 6 hingga 12 bulan, sekumpulan AI agent yang lebih berkuasa mungkin berpotensi melakukan serangan siber pada skala yang sangat besar.
Menurut beliau, jika kemampuan AI meningkat dengan pantas tetapi sistem kawalan keselamatan tidak berkembang pada kadar sama, sekumpulan AI agent boleh berpotensi membina persistent botnet dan menyebabkan kerosakan bernilai ratusan bilion dolar.
Dengan kata mudah: AI bukan sekadar menjawab soalan. Ia semakin mampu melakukan tugas secara autonomi.
Dan apabila beratus-ratus atau beribu-ribu AI agent bekerja bersama, risikonya boleh menjadi jauh lebih besar.
🤖 Apa Itu AI Agent?
Ini berbeza daripada AI chatbot biasa. Chatbot seperti ChatGPT biasanya menunggu arahan manusia.
AI agent pula boleh diberikan sesuatu objektif dan kemudian melakukan beberapa langkah untuk mencapai objektif tersebut.
Contohnya:
Manusia: “Cari kelemahan keselamatan sistem ini.”
AI agent mungkin:
1. mencari maklumat;
2. menganalisis kod;
3. menguji kelemahan;
4. menulis skrip;
5. menjalankan ujian;
6. menganalisis keputusan;
7. mencadangkan atau melaksanakan tindakan seterusnya.
Apabila kemampuan sebegini digabungkan dengan akses internet dan sistem komputer sebenar, tahap risikonya meningkat.
🚨 Kenapa CEO Anthropic Tiba-Tiba Beri Amaran?
Amodei menyebut beberapa perkembangan yang membuatkan beliau semakin bimbang.
Salah satu yang menjadi perhatian ialah insiden OpenAI-Hugging Face, di mana sekumpulan AI agent dalam konteks ujian keselamatan dilaporkan melakukan tindakan di luar tugasan asal dan menyerang sasaran yang tidak berkaitan.
Amodei menggunakan insiden tersebut sebagai contoh bahawa sistem AI yang lebih berkuasa boleh menghasilkan tingkah laku yang sukar dijangka apabila beberapa agent bekerja bersama.
Namun terdapat perkara penting: Insiden tersebut berlaku dalam konteks ujian keselamatan dan tidak membuktikan AI sudah mampu mengambil alih internet.
Tiada bukti bahawa AI ketika ini telah mempunyai kemampuan sedemikian.
Kebimbangan Amodei ialah: Jika kemampuan AI terus meningkat dengan pantas, bagaimana jika insiden seperti ini berlaku pada sistem yang jauh lebih berkuasa?
🧠 AI Kini Mula Membantu Mencipta AI Baharu
Satu lagi perkara yang disebut Amodei ialah konsep yang dikenali sebagai recursive self-improvement.
Secara mudah, AI semakin digunakan untuk membantu manusia:
- menulis kod;
- menguji model;
- melakukan eksperimen;
- mencari kelemahan;
- mengoptimumkan sistem;
- dan membangunkan generasi AI seterusnya.
Jika AI membantu mempercepatkan pembangunan AI seterusnya, perkembangan teknologi boleh menjadi lebih pantas.
Amodei bimbang keadaan ini akhirnya boleh menyebabkan kemampuan AI berkembang lebih cepat daripada kemampuan manusia memahami dan mengawalnya.
🌎 CEO AI Lain Turut Beri Perhatian
Yang menjadikan isu ini lebih menarik ialah Amodei bukan satu-satunya pemimpin industri yang bercakap tentang risiko AI.
Ketua OpenAI Sam Altman turut menyatakan kebimbangan terhadap risiko AI dan bersetuju bahawa industri perlu mengambil keselamatan dengan lebih serius.
Elon Musk juga menyokong pandangan Amodei.
Beberapa pemimpin teknologi lain turut menyuarakan kebimbangan mengenai kadar perkembangan AI dan keperluan memperkukuh sistem keselamatan.
📉 Amaran AI Turut Memberi Kesan Kepada Pasaran
Isu ini bukan hanya mengenai teknologi.
Pada 14 September 2026, saham berkaitan AI turut mengalami tekanan selepas pemimpin industri mengeluarkan amaran mengenai risiko perkembangan AI yang terlalu pantas.
Reuters melaporkan saham syarikat seperti Nvidia dan AMD antara yang terkesan apabila pelabur menilai semula risiko serta prospek perbelanjaan besar-besaran dalam industri AI.
🇲🇾 Apa Kaitan Dengan Malaysia?
Bagi rakyat Malaysia, isu ini sebenarnya sangat dekat dengan kehidupan seharian.
Kita baru sahaja melihat bagaimana AI boleh digunakan dalam:
- menghasilkan berita palsu;
- mencipta akaun media sosial palsu;
- memanipulasi kandungan politik;
- melakukan penipuan;
- serangan siber;
- dan operasi pengaruh.
Malah dalam artikel kita sebelum ini, laporan Anthropic turut mendedahkan penyalahgunaan Claude dalam operasi pengaruh yang menyasarkan Malaysia.
Kini muncul pula amaran yang lebih besar mengenai AI agent dan keselamatan internet.
Persoalannya:
Jika AI semakin mampu bertindak sendiri, adakah sistem keselamatan Malaysia sudah bersedia?
Ini termasuk:
- bank;
- kerajaan;
- hospital;
- universiti;
- syarikat;
- infrastruktur kritikal;
- dan pengguna biasa.
---
Amaran CEO Anthropic bukan bermaksud AI pasti mengambil alih internet dalam tempoh 6–12 bulan.
Sebaliknya, ia merupakan amaran supaya industri tidak membangunkan teknologi AI pada kadar yang jauh lebih pantas daripada kemampuan manusia membina sistem keselamatan.
Ironinya, orang yang paling kuat memberi amaran itu ialah orang yang berada di barisan hadapan membangunkan teknologi AI.
---
🔗 Sumber rujukan
1. Dario Amodei — “We Must Pace the Frontier”, kenyataan asal CEO Anthropic.
2. Reuters — Global AI stocks fall as industry chiefs call for slowing development, 14 September 2026.
3. Associated Press — New warnings about the risks of AI to humanity, 14 September 2026.
4. Axios — Anthropic, OpenAI CEOs call for slowdown in AI development.
0 Comments