Yapay zekâ araçları öğrenciler için önemli bir öğrenme desteği sunuyor. OECD tarafından yayımlanan bir rapora göre öğrencilerin yaklaşık yarısı yapay zekâ araçlarını ödevlerde destek almak amacıyla kullanıyor.  Siber güvenlik şirketi  ESET, yapay zekâ teknolojilerinin kötüye kullanımıyla ortaya çıkan tehditlere dikkat çekerek hem bilgi doğruluğu hem de dolandırıcılık riskleri konusunda dikkatli olunması gerektiğinin altını çizdi. 

Teknolojinin hızlı gelişimi eğitim alanında da önemli değişimlere yol açıyor. Özellikle yapay zekâ teknolojilerinin yaygınlaşmasıyla birlikte öğrencilerin bilgiye erişme, araştırma yapma ve ödev hazırlama süreçleri büyük ölçüde dönüşmüş durumda. Günümüzde birçok öğrenci, yapay zekâ tabanlı araçlardan yararlanarak ödevlerini hazırlıyor, araştırmalarını hızlandırıyor ve öğrenme süreçlerini destekliyor. Yapay zekâ destekli araçlar öğrenciler için güçlü bir öğrenme yardımcısı olarak görülüyor. Bu araçlar sayesinde öğrenciler karmaşık konular hakkında hızlı bir şekilde bilgi edinebiliyor ve farklı kaynakları daha kolay anlayabiliyor. Ayrıca araştırma sürecinde öğrencilerin konu hakkında genel bir çerçeve oluşturmasına, ana başlıkları belirlemesine ve araştırmanın hangi yönlere odaklanabileceğini keşfetmesine yardımcı oluyor. 

Ancak yapay zekâdan yararlanmanın bazı riskleri ve sınırlılıkları da bulunuyor. Bunların başında akademik dürüstlük ve bilgilerin doğruluğu geliyor. Yapay zekâ sistemleri çok geniş veri kaynaklarına dayanarak cevap üretiyor olsa da her zaman tamamen doğru, güncel veya bağlama uygun bilgiler sunmayabiliyor. Diğer bir yandan da güvenlik riskleri ön plana çıkıyor. Öğrencilerin ödev hazırlarken kişisel verilerini, okul bilgilerini bu platformlarda paylaşmamaları öneriliyor çünkü bazı yapay zekâ servisleri kullanıcıların girdilerini sistemlerini geliştirmek için saklayabiliyor veya işleyebiliyor.

Yapay zekâ siber suçluların da aracı hâline gelebiliyor

ESET uzmanları, üretken yapay zekâ teknolojilerinin kötüye kullanımıyla ortaya çıkan tehditlere de dikkat çekti. Sosyal mühendislik, siber suçluların dolandırıcılık amacıyla sıkça başvurduğu yöntemler arasında yer alıyor. Genellikle kimlik avı e-postaları, mesajlar veya telefon aramaları yoluyla gerçekleştirilen bu saldırılarda artık yapay zekâ destekli yöntemler de kullanılmaya başlandı. Büyük dil modelleri (LLM) sayesinde tehdit aktörleri çok daha ikna edici kimlik avı mesajları oluşturabiliyor, hatta derin sahte (deepfake) ses ve videolar üreterek kullanıcıları kandırmaya çalışabiliyor. Bu tür teknolojiler, en şüpheci kullanıcıları bile hedef alabilecek kadar gerçekçi içerikler üretilmesine olanak tanıyabiliyor. Uzmanlara göre kullanıcıların yapay zekâ çıktılarının her zaman doğru veya güvenilir olduğunu varsaymaması gerekiyor. Tehdit aktörlerinin güvenlik mekanizmalarını aşmak için geliştirdiği yaratıcı yöntemler ve kullanıcıların yapay zekâ yanıtlarına duyduğu aşırı güven bir araya geldiğinde siber riskler artabiliyor.

Öğrencilerin yapay zekâyı bilinçli kullanması önemli

Yapay zekâ destekli öğrenmenin eğitimde etkili bir şekilde kullanılabilmesi için öğretmenlerin de bu sürece rehberlik etmesi önem taşıyor. Bazı kesimler hâlâ yapay zekâya temkinli yaklaşsa da öğrenciler ve gençler bu teknolojileri aktif olarak kullanıyor. Bu nedenle öğrencilerin yapay zekâyı doğru ve etik şekilde kullanmayı öğrenmesi gerekiyor. Uzmanlar, yapay zekâ araçlarının fikir geliştirme, konu hakkında ön bilgi edinme veya metinleri düzenleme gibi destekleyici amaçlarla kullanılabileceğini; ancak ödevlerin tamamen yapay zekâ tarafından hazırlanmasının doğru bir yaklaşım olmadığını vurguluyor.

Yapay zekâ kullanımı için güvenlik önerileri

Yapay zekâ araçlarının yaygınlaşması kimlik avı ve dolandırıcılık yöntemlerinde de yeni bir dönemi başlatıyor. Bu nedenle kullanıcıların yapay zekâdan gelen bilgileri değerlendirirken her zaman sorgulayıcı olması gerekiyor. ESET uzmanları şu önerilerde bulunuyor:

Yapay zekâdan alınan bilgileri mutlaka güvenilir kaynaklarla karşılaştırın.

Kişisel verilerinizi, özel bilgilerinizi sohbet botları ile paylaşmayın

Şüpheli bağlantılara veya indirilebilir dosyalara karşı dikkatli olun.

Yapay zekâ tarafından sunulan bir bağlantı varsa adresi kontrol edin. Şüpheli görünüyorsa tıklamayın.

Yapay zekâ çıktısına her zaman temkinli yaklaşın; özellikle öneriler veya cevaplar beklenmedik görünüyorsa doğrulama yapın.

Kimlik bilgilerinin çalınma riskini azaltmak için güçlü ve benzersiz parolalar kullanın ve çok faktörlü kimlik doğrulamayı  etkinleştirin.

Cihazlarınızın, işletim sistemlerinizin ve yazılımlarınızın güncel olduğundan emin olun.

Kötü amaçlı yazılımlar, kimlik avı saldırıları ve diğer tehditlere karşı güvenilir bir güvenlik sağlayıcısından çok katmanlı koruma kullanın.

Uzmanlara göre yapay zekâ araçları doğru kullanıldığında öğrenciler için güçlü bir öğrenme desteği sunabilir. Ancak dijital dünyada güvenli kalmanın yolu, teknolojiyi bilinçli kullanmak ve her türlü bilgiyi sorgulamaktan geçiyor.