Yapay Zekâ Neden Yanlış Cevap Veriyor? ChatGPT ve Gemini’ye Ne Kadar Güvenebiliriz?

Yapay zekâya bir soru soruyoruz ve birkaç saniye içerisinde oldukça düzgün hazırlanmış bir cevap alıyoruz. Üstelik çoğu zaman açıklamalar o kadar net ve kendinden emin oluyor ki verilen bilgiyi sorgulama ihtiyacı bile hissetmeyebiliyoruz.

Ancak burada önemli bir ayrıntı var: Bir cevabın doğru görünmesi, gerçekten doğru olduğu anlamına gelmiyor.

Bence yapay zekâ kullanımında üzerinde durmamız gereken en önemli konulardan biri bu. Çünkü yanlış bir bilgi günlük hayatta küçük bir karışıklığa neden olabilirken, yazılım geliştirme veya kurumsal raporlama süreçlerinde çok daha ciddi sonuçlar doğurabilir.

Yapay Zekâ Bilmediği Bir Soruyu da Cevaplayabilir

ChatGPT, Gemini ve benzeri yapay zekâ sistemleri, her soruya doğruluğu garanti edilmiş cevaplar veren veri tabanları değildir.

Bu sistemler bazen hatalı bilgiler üretebilir, mevcut olmayan kaynaklardan söz edebilir veya eksik bilgilerle yanlış sonuçlara ulaşabilir.

Buna yapay zekâ halüsinasyonu deniliyor.

Buradaki asıl risk, yanlış bilginin çoğu zaman açıkça yanlış görünmemesi. Oldukça profesyonel hazırlanmış bir açıklama bile teknik açıdan hatalı olabilir.

Bir Excel Formülü Çalışıyorsa Doğru mudur?

Örneğin yapay zekâdan bir şirketin satış raporu için Excel formülü hazırlamasını istediğimizi düşünelim.

Formül sorunsuz çalışabilir, herhangi bir hata mesajı vermeyebilir. Ancak yanlış tarih aralığını kullanması veya belirli kayıtları hesaba katmaması nedeniyle sonuç hatalı olabilir.

Aynı durum SQL sorgularında da yaşanabilir.

Örneğin iki tabloyu birleştiren yanlış bir JOIN işlemi, kayıtların tekrar etmesine ve rapordaki toplamların olduğundan yüksek görünmesine neden olabilir.

İşin tehlikeli tarafı, böyle bir sorgunun teknik olarak hata vermeden çalışabilmesidir.

Dolayısıyla bir kodun çalışması ile doğru sonuç üretmesi aynı şey değildir.

Bu ayrım özellikle finansal raporlama, stok yönetimi ve operasyonel analizlerde oldukça önemlidir.

Yapay Zekânın Verdiği Cevabı Nasıl Kontrol Etmeliyiz?

Benim burada önemsediğim yaklaşım, yapay zekâdan gelen sonucu doğrudan kullanmak yerine önce küçük ölçekte doğrulamak.

Örneğin Excel formülü oluşturuyorsak sonucunu önceden bildiğimiz örnek bir tablo hazırlayabiliriz. SQL sorgusu yazıyorsak birkaç test kaydı üzerinden beklenen sonuçla karşılaştırma yapabiliriz.

Sistem yönetiminde ise yapay zekânın önerdiği bir komutu ne işe yaradığını anlamadan canlı sunucuda çalıştırmamak gerekir.

Özellikle veri silme, yetki değiştirme veya sistem yapılandırmasını etkileme ihtimali bulunan komutlarda dikkatli olunmalı.

Bir diğer önemli nokta da kaynak kontrolü.

Yapay zekâ teknik bir özellik, sürüm bilgisi veya güvenlik yapılandırması hakkında cevap verdiğinde, kritik ayrıntıları mümkün olduğunca üreticinin resmi dokümantasyonundan doğrulamak gerekir.

Yapay zekâya “Bu cevaptan emin misin?” diye sormak tek başına yeterli bir doğrulama yöntemi değildir.

Peki, Yapay Zekâya Güvenmemeli miyiz?

Bence konuya bu şekilde yaklaşmak doğru değil.

Yapay zekâ, teknik sorunları analiz etmek, farklı çözüm yöntemlerini değerlendirmek, kod geliştirmek ve araştırma yapmak açısından oldukça faydalı.

Ancak onu bütün kararları bizim yerimize veren bir sistem olarak görmek yerine, çalışmalarımızı destekleyen güçlü bir yardımcı olarak değerlendirmek gerekiyor.

Nasıl ki bir yazılımcı geliştirdiği kodu test etmeden doğrudan kullanmıyorsa, yapay zekâ tarafından üretilen kod ve bilgilerin de benzer şekilde kontrol edilmesi gerektiğini düşünüyorum.

Sonuç

Yapay zekânın sunduğu en büyük avantajlardan biri hız. Daha önce uzun süre araştırma gerektiren birçok konuda artık saniyeler içerisinde bir başlangıç noktası elde edebiliyoruz.

Fakat hızın, doğruluğun önüne geçmemesi gerekiyor.

Özellikle şirket sistemlerinde ve gerçek verilerle çalışılan ortamlarda, küçük görünen bir hesaplama veya sorgu hatası bile önemli sonuçlara yol açabilir.

Bu nedenle benim yaklaşımım net:

Yapay zekâdan faydalanalım, ancak ürettiği her sonucu sorgulamadan doğru kabul etmeyelim.

Çünkü iyi bir teknik çözüm, yalnızca çalışan değil; test edilmiş, doğrulanmış ve güvenilir sonuç üreten çözümdür.

Murat Batuhan

Yazılım, Sistem Güvenliği ve Otomasyon