Таны ухаалаг гэрийн системийг ганцхан анхааралгүй Google Calendar бичлэгээр хулгайлах боломжтой гэдгийг мэдэх үү? Энэ бол ирээдүйн технологиос гадна, үнэхээр аймшигтай бодит байдал юм!

Судлаачид Тел Авивын их сургуулиас хийсэн шинэ судалгаагаар, AI системийг хулгайлах анхны жишээг гаргасан бөгөөд энэ нь зөвхөн үг хэллэгийн тусламжтайгаар ухаалаг гэрийг хянах боломжтойг харуулсан. Тухайлбал, “баярлалаа” гэж хэлэх нь Gemini системийг гэрэл асаах, ус буцалгах зэрэг үйлдлийг автоматжуулахад хүргэсэн байна.

AI-ийн интеграци нь бидний амьдралд амарчилал, автоматжуулалт, үр ашгийг нэмэх зорилготой боловч, энэхүү судалгаа нь нийгэмд айдас төрүүлэх шалтгаан болсон. Судалгаагаар, гэмтэн хоёрдогч Google Calendar үйл явдлаар дамжуулан Gemini-д хулгайлагдсан зааврыг оруулснаар, системийг ажиглахын тулд анхааралтай ашигласан байна.

Gemini нь автомат ажиллагааг хязгаарласан боловч, ухаалаг гэрийн системийг удирдах “агентик чадвар" нь аюултай болж хувирч байна. Судлаачид Google Calendar-д аюултай зааврыг оруулахад, хэрэглэгчийн хуваарьтай холбоотой асууж, энэ үед нуусан зааврыг идэвхжүүлжээ.

Энэ хулгайлагдсан заавар нь Gemini-ийг Google Home агентын хувьд ажиллах гэж зааж, хэрэглэгч “баярлалаа” гэж хэлэхэд гэрэл, хатгалт болон ус буцалах төхөөрөмжийг идэвхжүүлсэн байна. Гэвч хэрэглэгчийн зөвшөөрөлгүйгээр эдгээр төхөөрөмжүүдийг ажиллуулсан нь аюултай бөгөөд хэрэглэгчид хэзээ ч мэдрэмжгүйгээр энэ үйлдлийг хийж байж болзошгүй.

Энэхүү “promptware” гэж нэрлэгдсэн аргачлал нь AI интерфейстүүдийн хэрэглэгчийн оруулалтын тайлбарыг хэрхэн тайлбарласан талаар ноцтой асуудлуудыг үүсгэж байна. Судлаачид хэлэхдээ, ийм prompt-injection халдлага нь нийгмийн инженерчлэл болон автоматжуулалтын хослол болж байгаа аюулын шинэ классийг төлөөлж байна.

Энэхүү техникийг төхөөрөмжийг удирдах төдийгүй, хуваарь устгах, спам илгээх, эсвэл халдлага болсон вэбсайтууд руу нэвтрүүлэхэд ашиглаж болох бөгөөд зарим нь шууд үүсгэх хулгайн хэрэгт хүргэж болзошгүй.

Судалгааны баг Google-ийн хамтран ажиллаж, энэ эмзэг байдлыг илрүүлсэн бөгөөд компани нь prompt-injection халдлагын эсрэг шинэ хамгаалалтыг түргэсгэн нэвтрүүлж, календарийн үйл явдлуудад илүү хяналт тавих, чухал үйлдлүүдэд нэмэлт баталгаажуулалт хийхээр шийджээ.

Гэвч, эдгээр засварын хэмжээг хэрхэн өргөжүүлэх талаар асуултууд одоог хүртэл байсаар байна, ялангуяа Gemini болон бусад AI системүүд хувь хүний өгөгдөл, төхөөрөмжид илүү их хяналттай болсон үед. Харамсалтай нь, уламжлалт аюулгүй байдлын програм хангамж болон файрвол хамгаалалт энэ төрлийн халдлагын векторт зориулагдаагүй байдаг.

Хэрэглэгчид AI хэрэгслүүд, жишээ нь Gemini-д хязгаарлалт тавьж, ялангуяа календарь болон ухаалаг гэрийн хяналтыг хязгаарлах ёстой. Мөн, календарийн үйл явдлуудад эмзэг эсвэл нарийн заавруудыг хадгалахгүй байх, AI системүүдийг өөрийн хяналтаас гадуур ажиллуулахыг зөвшөөрөхгүй байх шаардлагатай. Хэрвээ ухаалаг төхөөрөмжүүдийн зан төрх өөрчлөгдсөн бол энэ явдалд анхаарал хандуулах хэрэгтэй.