Yapay zeka (YZE), STEM eğitiminde giderek daha etkili hale geliyor. Yapay zeka araçları artık otomatik puanlama, kişiselleştirilmiş geri bildirim, özel ders verme ve öğrenme analizlerini destekleyebiliyor. Ancak, derin öğrenme modelleri ve büyük dil modelleri (LLM'ler) dahil olmak üzere birçok gelişmiş yapay zeka sistemi "kara kutu" gibi çalışır. Puan veya geri bildirim sağlayabilirler, ancak eğitimciler, öğrenciler ve araştırmacılar için yapay zeka tarafından oluşturulan kararların nasıl alındığını anlamaları zordur.

Yakın zamanda yayımlanan açık erişimli bir kitap olan STEM Eğitim Araştırmaları için Yapay Zeka'da, "STEM Eğitim Araştırmalarında Açıklanabilir Yapay Zeka" başlıklı bir bölüm bu konuya ayrılmıştır. Temel açıklanabilir yapay zeka yaklaşımlarını tanıtarak ve STEM öğrenme bağlamlarında güven, tanısal içgörülü, öğretim kararları alma ve sorumlu yapay zeka entegrasyonunu nasıl destekleyebileceği tartışarak yapay zeka sistemlerinin STEM eğitimi için nasıl daha şeffaf, yorumlanabilir ve faydalı hale getirilebileceğini inceler.

Açıklanabilir yapay zeka, genellikle XAI olarak adlandırılır, insanların bir yapay zeka modelinin tahminlerinin arkasındaki mantığı anlamasına, güvenmesine ve potansiyel olarak kontrol etmesine yardımcı olan yöntemler ve ilkeleri ifade eder. Eğitimde açıklanabilirlik sadece teknik bir konu değil, aynı zamanda pedagojik ve etik bir konudur.

Yapay zeka puanlama veya geri bildirim üretiminde kullanıldığında, eğitimciler sistemin anlamlı öğrenme kanıtlarına odaklanıp odaklanmadığını bilmeleri gerekir. Öğrenciler ayrıca yapay zeka geri bildiriminin bir yanıtın neden güçlü, eksik veya yanlış olduğunu anlamalarına yardımcı olduğunda da faydalanır. Araştırmacılar, yapay zeka modellerinin öğrenme teorileri, değerlendirme çerçeveleri ve disipliner beklentileriyle uyum sağlayıp yansıtmadığını değerlendirmek için açıklanabilirliğe ihtiyaç duyar.

Bazı yapay zeka modelleri, doğrusal ve ağaç tabanlı modeller gibi, tasarım gereği daha kolay anlaşılır. Doğrusal bir model, çalışma süresi veya önceki performans gibi bir faktörün tahmin edilen bir sonuçla nasıl ilişkili olduğunu göstermeye yardımcı olabilir. Ağaç tabanlı bir model, bir sonuca yol açan bir dizi karar kuralı gösterebilir. Bu modeller, yapay zeka tahmininin mantığını görünür kılar.

Diğer yöntemler ise daha karmaşık yapay zeka sistemlerini açıklamak için tasarlanmıştır. Bir yaklaşım, tahmini rehberliğe dönüştürmek için "ya şöyle olsaydı" akıl yürütmesini, yani karşıt-gerçekçi açıklamayı kullanır. Örneğin, bir yapay zeka aracı, öğrencinin önemli bir bilimsel fikir ekliyorsa veya yanlış anlamayı düzelttiğinde tepkinin nasıl gelişebileceğini gösterebilir. Bu tür açıklamalar, yapay zeka puanını faydalı geri bildirime dönüştürebilir.

Başka bir yaklaşım, bir öğrencinin çalışmasının hangi bölümlerinin yapay zeka için en önemli olduğunu belirlemeye yardımcı olur. Örneğin, otomatik puanlamada, açıklanabilir yapay zeka, sistemin öğrenci yanıtlarında fotosentez veya enerji dönüşümü gibi önemli fikirleri tanıyıp tanımadığını göstermeye yardımcı olabilir. Bu, öğretmenlerin yapay zekanın dikkat edip etmediğini ve anlamlı disiplin içeriğini algılayıp algılamadığını belirlemesine yardımcı olur.

ChatGPT ve diğer LLM'ler başka önemli bir konuyu gündeme getiriyor. Bu araçlar günlük dilde yazılan promptlara yanıt verdiği için, kullanıcıların soru sorma şekli önemlidir. Net promptlar, ilgili örnekler, arka plan bilgileri ve adım adım akıl yürütme, yapay zeka etkileşimlerini daha görünür ve daha kolay hale getirebilir. Bağlam içi örnekler, bilgi artışları ve düşünce zinciri yönlendirme gibi stratejiler, LLM'leri öğretim ve öğrenme için daha yorumlanabilir ve faydalı yanıtlara yönlendirmeye yardımcı olabilir.

Genel olarak, temel bir mesaj şu: STEM eğitiminde yapay zeka sadece doğrulukla yargılanmamalıdır. Bir puan, tavsiye veya geri bildirim mesajı, insanlar bunun arkasındaki gerekçeyi anladığında daha değerli hale gelir. XAI, model çıktılarını öğretmenlerin önemsediği kanıtlarla bağlamaya yardımcı olabilir; örneğin öğrenci akıl yürütmesi, yanlış anlamalar, disipliner anlayışı ve zamanla ilerleme.

Yapay zeka gelişmeye devam ederken, STEM eğitimindeki rolü, yapay zeka araçlarının insan odaklı kalmasını sağlamak için yapay zeka araştırmacıları, eğitimciler, öğrenme bilimcileri ve değerlendirme uzmanları arasında sürekli iş birliği gerektirecektir. Eğitim sisteminde bir dönüşüm olarak görülse de, başarısı ne kadar düşünceli uygulanacağına bağlı olacak; eğitimcilerin yapay zekanın nasıl kullanıldığı, hangi kanıtların önemli olduğu ve yapay zeka tarafından oluşturulan içgörülerin öğretim ile öğrenmeyi nasıl bilgilendirmesi gerektiği konusundaki kararların merkezinde kalması son derece önemli olacak. Genel olarak, sorumlu kullanılırsa, yapay zeka geri bildirimi artırmak, değerlendirmeyi desteklemek, anlayışı derinleştirmek ve öğrencileri geleceklerine hazırlamak için güçlü bir araç olabilir. Açıklanabilir yapay zeka, bu geleceğin güvenilir ve insan öğrenimiyle uyumlu olmasını sağlamanın önemli bir parçasıdır.