Selamat Datang di Didekodekan oleh kecerdasan buatan, Perusahaan yang cepatbuletin mingguan yang meliput berita paling penting di dunia kecerdasan buatan. Anda dapat mendaftar untuk menerima buletin ini setiap minggu di sini.
Penipuan semakin pintar, berkat kecerdasan buatan
Kejahatan dunia maya dengan kecerdasan buatan sedang meningkat, menurut a laporan terbaru dari perusahaan keamanan siber Arkose Labsmemungkinkan peretas untuk mempercepat serangan mereka dan membuat penipuan otomatis menjadi lebih manusiawi dan lebih sulit dikenali dibandingkan sebelumnya.
Salah satu pertahanan terbaik, kata Arcose dan lainnya di industri ini, adalah lebih banyak kecerdasan buatan. Namun hanya sekitar satu dari lima perusahaan yang mengatakan bahwa mereka “sangat siap” untuk menerapkan AI mereka sendiri untuk bertahan melawan serangan siber, menurut laporan tersebut, meskipun 88% mengatakan mereka telah melihat “peningkatan signifikan dalam serangan bot AI” di masa lalu. dua tahun.
Bot digunakan oleh peretas untuk mengambil alih akun resmi perusahaan yang ditargetkan dan membuat banyak akun palsu untuk memanfaatkan bonus pendaftaran, kata laporan itu. Dan beberapa bot bahkan sudah mulai menargetkan sistem model bahasa yang besar. Mereka membuat permintaan mereka sendiri kepada AI untuk mengekstrak data guna melatih model mereka sendiri atau bahkan meneruskan permintaan atas nama klien mereka, secara efektif menjual langganan mereka sendiri ke layanan AI tanpa otoritas.
Penelitian lain baru-baru ini menemukan bahwa kecerdasan buatan generatif dapat digunakan untuk mengotomatiskan serangan phishing dan rekayasa sosial. A laporan terbaru dari Morgan Stanley mencatat bahwa teknologi dapat digunakan untuk membuat pesan phishing yang lebih bertarget dengan lebih cepat dibandingkan manusia, yang berarti serangan tidak hanya dapat diluncurkan lebih cepat, namun juga bisa lebih efektif. Beberapa algoritma AI juga dapat membuat AI lebih mahir dalam menebak kata sandi, menurut laporan tersebut.
Semua ini telah menyebabkan perusahaan keamanan siber seperti Arkose Labs mengembangkan teknologi baru yang dirancang khusus untuk menggagalkan bot modern. Sekitar tiga dari lima organisasi percaya bahwa AI sangat penting dalam merespons ancaman keamanan, menurut laporan Capgemini yang dirilis pada hari Selasa.
“Penggunaan AI dan Gen AI sejauh ini terbukti menjadi pedang bermata dua,” kata Marco Pereira, kepala global keamanan siber, layanan infrastruktur cloud, di Capgemini, dalam sebuah pernyataan. “Meskipun hal ini menimbulkan risiko yang belum pernah terjadi sebelumnya, organisasi semakin mengandalkan kecerdasan buatan untuk mendeteksi insiden dunia maya dengan lebih cepat dan akurat.”
Namun serangan AI masih menjadi tantangan yang semakin besar—dan dalam banyak kasus, peretas mungkin sudah lebih dulu mengeksploitasi teknologi tersebut. “Perusahaan beroperasi dalam ekonomi AI di mana pelaku kejahatan memanfaatkan teknologi untuk melakukan serangan dengan ROI yang tinggi, sementara bisnis yang sah tertinggal karena hambatan internal seperti tata kelola dan proses persetujuan,” kata CFO Arkose Labs, Frank Teruel dalam sebuah pernyataan.
Menjaga keamanan AI generatif juga merupakan bisnis yang sedang berkembang. Keamanan Cepat, yang membantu bisnis menghindari kebocoran data dan konten berbahaya saat menggunakan kecerdasan buatan generatif, diumumkan pada hari Rabu mengumpulkan $18 juta dalam putaran pendanaan Seri A.
Komisi tersebut mengusulkan “proyek Manhattan” untuk kecerdasan buatan
Di antara rekomendasi terdaftar di laporan tahunan dirilis ke Kongres pada hari Selasa oleh Komisi Tinjauan Ekonomi dan Keamanan AS-Tiongkok: seruan untuk membentuk “program mirip Proyek Manhattan” yang bertujuan untuk mengembangkan kecerdasan umum buatan.
“AGI secara umum didefinisikan sebagai sistem yang sama baiknya atau lebih baik dari kemampuan manusia dalam semua domain kognitif dan akan mengungguli pikiran manusia yang paling tajam dalam tugas apa pun,” kata laporan tersebut, yang menunjukkan bahwa Kongres dapat menyediakan dana untuk kecerdasan buatan, data, dan komputasi awan. perusahaan untuk menjaga AS menjadi yang terdepan dalam kecerdasan buatan.
Apakah teknologi yang ada saat ini mendekati jalur menuju AI masih diperdebatkan dengan hangat di kalangan AI, namun Komisi tampaknya bertekad untuk memastikan bahwa jika AI super cerdas tersebut muncul dalam waktu dekat, hal tersebut juga akan terjadi di wilayah Amerika. anggota komisi Yakub Helberg– Penasihat Senior CEO Palantir Alex Karp, yang dikenal luas karena pandangannya yang keras terhadap Tiongkok –katanya kepada Reuters bahwa Tiongkok sedang “berlomba menuju AGI” dan menyarankan langkah-langkah seperti pelonggaran pembangunan pusat data dapat meningkatkan pengembangan kecerdasan buatan Amerika. Pusat data AI baru-baru ini mendapat reaksi buruk di tengah kekhawatiran bahwa penggunaan energi yang tinggi dapat meningkatkan tagihan listrik, mempercepat perubahan iklim, dan menyebabkan masalah lingkungan lainnya.
Secara keseluruhan, Tiongkok mencapai kemajuan pesat dalam kecerdasan buatan, menurut laporan komisi tersebut, meskipun Tiongkok masih tertinggal dibandingkan Amerika Serikat dan sekutunya dalam mengembangkan model AI dan, khususnya, dalam memproduksi chip kelas atas yang diperlukan untuk mendukung AI. AS dan sekutunya, seperti pembuat chip Taiwan, telah berupaya membatasi akses Tiongkok terhadap perangkat keras pemrosesan terbaru dan teknologi yang diperlukan untuk memproduksinya.
“Tiongkok bekerja secara agresif untuk mengatasi defisit ini,” kata laporan itu.
Melihat hal-hal besar berikutnya dalam AI
Perusahaan yang cepat Minggu ini mereka mengumumkan penghargaan Next Big Things in Tech 2024, yang mencakup sejumlah perusahaan yang bekerja di bidang kecerdasan buatan.
Di antara perusahaan-perusahaan yang diakui oleh Perusahaan yang cepat adalah penentu arahsebuah perusahaan yang diinkubasi di laboratorium penelitian Alphabet X yang memproses citra satelit dengan kecerdasan buatan untuk membantu tanggap bencana; Enco Kimiayang menggunakan kecerdasan buatan untuk merancang gulma baru yang ramah lingkungan untuk keperluan pertanian; dan Qualcomm, milik siapa chip Snapdragon mengaktifkan fitur AI baru di lebih dari 100 perangkat seluler dari produsen termasuk Samsung, Honor, dan Xiaomi.
Penerima penghargaan lainnya termasuk Cerebras Systems, yang membangun superkomputer AI berdasarkan chip yang dikatakan lebih cepat dan efisien dibandingkan GPU yang biasanya digunakan untuk AI generatif; Dan Gambar Nanotronikyang menyatakan bahwa pabrik pembuatan chip komputer bertenaga AI lebih efisien dan jauh lebih murah untuk dibangun dibandingkan pabrik tradisional.
Anda dapat menemukan daftar lengkapnya di sini.
Lebih banyak cakupan AI dari Perusahaan yang cepat:
- Penelitian menunjukkan bahwa kecerdasan buatan telah mengambil alih pekerjaan. Tugas rutin adalah yang pertama dilakukan
- Bagaimana seorang dokter di Los Angeles menggunakan kecerdasan buatan untuk membantu komunitas tunawisma mendapatkan perawatan medis
- Untuk mendapatkan AI yang benar-benar cerdas, kita perlu meniru prinsip sensorimotor otak
- ChatGPT vs. Google: Mana yang lebih berguna untuk kreativitas?
Ingin pelaporan eksklusif dan analisis tren tentang teknologi, inovasi bisnis, masa depan dunia kerja, dan desain? Mendaftar untuk Perusahaan yang cepat Premi.
