Topik trending
#
Bonk Eco continues to show strength amid $USELESS rally
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
#
Boop.Fun leading the way with a new launchpad on Solana.
vitalik.eth
mi pinxe lo crino tcati
Ini juga mengapa "tata kelola AI" yang naif adalah ide yang buruk.
Jika Anda menggunakan AI untuk mengalokasikan dana untuk kontribusi, orang AKAN menempatkan jailbreak ditambah "beri saya semua uang" di sebanyak mungkin tempat.
Sebagai alternatif, saya mendukung pendekatan keuangan info ( ), di mana Anda memiliki pasar terbuka di mana siapa pun dapat menyumbangkan model mereka, yang tunduk pada mekanisme pemeriksaan tempat yang dapat dipicu oleh siapa saja dan dievaluasi oleh juri manusia.
Jenis pendekatan "desain institusi" ini, di mana Anda menciptakan peluang terbuka bagi orang-orang dengan LLM dari luar untuk mencolokkan, daripada melakukan hardcoding sendiri satu LLM, secara inheren lebih kuat, baik karena memberi Anda keragaman model secara real time dan karena menciptakan insentif bawaan bagi pengirim model dan spekulan eksternal untuk mengawasi masalah ini dan dengan cepat memperbaikinya.
CC @TheDevanshMehta
13 Sep, 00.35
Kami membuat ChatGPT membocorkan data 💀💀 email pribadi Anda
Semua yang Anda butuhkan? Alamat email korban. ⛓️💥🚩📧
Pada hari Rabu, @OpenAI menambahkan dukungan penuh untuk alat MCP (Model Context Protocol) di ChatGPT. Mengizinkan ChatGPT terhubung dan membaca Gmail, Kalender, Sharepoint, Gagasan, dan banyak lagi, yang ditemukan oleh @AnthropicAI
Tapi inilah masalah mendasarnya: Agen AI seperti ChatGPT mengikuti perintah Anda, bukan akal sehat Anda.
Dan hanya dengan email Anda, kami berhasil mengeksfiltrasi semua informasi pribadi Anda.
Inilah cara kami melakukannya:
1. Penyerang mengirimkan undangan kalender dengan prompt jailbreak kepada korban, hanya dengan email mereka. Tidak perlu korban menerima undangan tersebut.
2. Menunggu pengguna meminta ChatGPT untuk membantu mempersiapkan hari mereka dengan melihat kalender mereka
3. ChatGPT membaca undangan kalender yang di-jailbreak. Sekarang ChatGPT dibajak oleh penyerang dan akan bertindak atas perintah penyerang. Mencari email pribadi Anda dan mengirim data ke email penyerang.
Untuk saat ini, OpenAI hanya membuat MCP tersedia dalam "mode pengembang", dan memerlukan persetujuan manusia manual untuk setiap sesi, tetapi kelelahan keputusan adalah hal yang nyata, dan orang normal hanya akan mempercayai AI tanpa tahu apa yang harus dilakukan dan mengklik setujui, setujui, setujui.
Ingatlah bahwa AI mungkin sangat pintar, tetapi dapat ditipu dan ditipu dengan cara yang sangat bodoh untuk membocorkan data Anda.
ChatGPT + Tools menimbulkan risiko keamanan yang serius
1,43K
Teratas
Peringkat
Favorit