Üretken yapay zekâ (generative AI) nasıl çalışır? Tokenlardan bağlam penceresine ve “güvenle yapılan hataya”

Metin, görsel veya ses üretmek için kullanılan üretken yapay zekâ (generative AI) genellikle ortak bir fikri izler: veriyi hesaplanabilir birimlere dönüştürür ve ardından “bağlam”a dayanarak devamı olasılıksal biçimde üretir. Metinde bu birimler çoğu zaman “token”dır; yani modelin akıcı bir çıktı üretmek için onları bir araya getirebildiği kelimenin küçük parçaları ya da hatta bir kelimenin bir kısmıdır.

Eğitim aşamasında model, dilde veya görsel örüntülerde hangi tokenların genellikle yan yana geldiğini çok sayıda örnekten öğrenir. Ancak bu eğitim, “yanıt vermekten” farklıdır. Eğitim, bol pratikle kalıp öğrenmeye daha çok benzerken; “çıkarım” (inference) ise siz bir istek verdiğinizde, modelin aynı öğrenilmiş kalıplara dayanarak ve girdinizin ışığında devamı adım adım üretmesidir.

Modelin davranışını anlamanın anahtarlarından biri “bağlam penceresi”dir (context window). Model yalnızca bu pencerede sığan bilgi kısmına odaklanır; yani isteminiz uzun olsa bile model o anda her ayrıntıyı dikkate almayabilir. Bu nedenle, bir şey pencerenin dışındaysa ya da pencerenin içinde görülenlerle uyumsuzsa, çıktı doğru ya da ilgili olmayabilir; hatta dilsel olarak çok ikna edici görünse bile.

Bu sistemlerde “güven” ifadesi genellikle insan psikolojisindeki anlamına karşılık gelmez. Model bir şeyin “doğru” olduğunu söylediğinde aslında, devamda belirli bir tokenın daha yüksek olasılıkla geleceğini söylemektedir. Girdi bağlamı belirsizse, birden fazla makul devam mümkünse ya da gerekli bilgiler eğitim verilerinde yeterince kapsanmamışsa, model görece iyi bir olasılıkla ama yine de yanlış bir sonuç üretebilir. Burada “olasılık” mantığı “güvenle yapılan hata”ya yol açabilir.

“Varsanı/kuruntu” (hallucination) çoğu zaman birkaç etkenin birleşiminden kaynaklanır: bağlam eksikliği, belirsiz istek, yanıtta gerçek bir kaynağın bulunmaması ya da modelin “gerçeği kontrol etmekten” ziyade yalnızca “muhtemel devamı üretmesi.” Pratik çözüm, çıktıyı nihai bir belge gibi değil, olası bir taslak gibi okumaktır; modele kaynak temelli yanıt vermesini ya da varsayımlarını belirtmesini isteyin ve hassas ayrıntıları güvenilir kaynaklarla yeniden doğrulayın.