Büyükler için · ders · 16+
Büyük Dil Modeli Uygulamaları
Bir dil modeliyle gerçek bir uygulama kurmayı uçtan uca öğren: tokenlar ve gömmeler, prompt kalıpları, JSON şemalı çıktı, belgeden cevap bulan RAG, araç kullanan ajanlar, değerlendirme, güvenlik ve KVKK, maliyet ve gecikme, akışlı bir web sohbet arayüzü. Simülasyonlar tarayıcıda çalışan küçük öğretim modelleridir; gerçek API kodu Python ve JavaScript örnekleriyle verilir.
- Ünite
- 10
- Simülasyon
- 13
- Saat
- 40
1. üniteyle başlaTüm simülasyonlar
Öğretim modeli: bu sayfadaki simülasyonlar gerçek bir dil modeli değildir. Küçük, deterministik, tarayıcıda çalışan modellerdir; kavramı göstermek için yazıldılar. Site hiçbir dış LLM servisine istek göndermez.
Kazanımlar
- Token, bağlam penceresi ve maliyet arasındaki ilişkiyi hesapla açıklamak
- Gömme vektörleriyle anlamsal arama ve benzerlik ölçmek
- Görev için doğru prompt kalıbını seçmek ve JSON şemasıyla doğrulanan çıktı almak
- Parçalama, gömme, vektör arama ve yeniden sıralama adımlarıyla bir RAG hattı kurmak
- Araç kullanan bir ajan döngüsünü sınırlarıyla birlikte tasarlamak
- Bir LLM uygulamasını ölçüt, rubrik ve dayanaklılık kontrolleriyle değerlendirmek
- Kişisel veriyi maskelemek, prompt enjeksiyonuna karşı katmanlı savunma kurmak
- Akışlı (streaming) cevap gösteren bir web sohbet arayüzü yazmak
Üniteler
| Ünite | Konu | Saat | Simülasyon |
|---|---|---|---|
| 1 | Tokenlar, bağlam penceresi ve maliyet Model metni değil token görür. BPE nasıl çalışır, Türkçe neden daha çok token tutar, pencere ve fatura neden tokenla ölçülür. | 4 | BPE oyun alanı: tokenlar nasıl doğar, Dikkat yayları 3B: "o" kime bakıyor? |
| 2 | Gömmeler ve anlamsal benzerlik Metni sayı vektörüne çevirmek, kosinüs benzerliği, en yakın komşu araması ve yüksek boyutu düzlemde görmek. | 4 | Gömme ve benzerlik: 2B izdüşüm görüntüleyici, 3B gömme uzayı: 64 boyuttan üç eksene |
| 3 | Prompt kalıpları: görevi açıkça tarif etmek Sıfır atış, birkaç örnekli, rol ve kurallar, adım adım plan ve etiketlerle ayrılmış veri. Sistem promptu ve sıcaklık yerine açıklık. | 4 | Prompt kalıpları atölyesi |
| 4 | Yapılandırılmış çıktı: JSON şeması ve onarım döngüsü Modelden programın okuyabileceği veri almak: JSON Schema, doğrulama, hata yolları ve modele geri dönen onarım mesajı. | 4 | Yapılandırılmış çıktı: JSON şema doğrulayıcı |
| 5 | RAG uçtan uca: belgeden kaynaklı cevap Parçalama, gömme, vektör arama, yeniden sıralama, eşik ve kaynak gösteren cevap. Modelin bilmediği notlardan doğru cevap almak. | 4 | Uçtan uca mini RAG: ders notlarından cevap, RAG'ı 3B izle: sorgu → komşular → yeniden sıralama → cevap |
| 6 | Araç kullanımı ve ajan döngüsü Modele araç tanımlamak, düşün → araç çağır → gözle döngüsü, adım sınırı, hata ve yeniden deneme, ne zaman ajan kurulmamalı. | 4 | Ajan döngüsü görselleştirici: düşün → araç çağır → gözle |
| 7 | Değerlendirme: ölçüt, rubrik, hakem ve uydurma kontrolü Test kümesi kurmak, tam ve normalize eşleşme, token F1, rubrik, LLM hakem kavramı ve cevabın kaynağa dayanıp dayanmadığını sınamak. | 4 | Değerlendirme tezgâhı: ölçütler, rubrik, dayanaklılık |
| 8 | Güvenlik ve gizlilik: kişisel veri, prompt enjeksiyonu, KVKK Kişisel veriyi modele gitmeden maskelemek, dolaylı prompt enjeksiyonuna karşı katmanlı savunma, en az yetki ve 6698 sayılı Kanun'un temel ilkeleri. | 4 | Gizlilik ve güvenlik süzgeci: kişisel veri ve enjeksiyon |
| 9 | Servis ve maliyet: token bütçesi, önbellek, gecikme İstek başı ve aylık maliyet, prompt önbelleği, toplu işleme, ilk token süresi, hız sınırları, yeniden deneme ve model seçimi. | 4 | Servis ve maliyet hesaplayıcı: token, gecikme, önbellek |
| 10 | Akışlı web sohbet arayüzü (JavaScript) Anahtarı sunucuda tutmak, Server-Sent Events, parça parça gelen baytları tamponlamak, durdurma düğmesi ve sohbet geçmişini sınırlamak. | 4 | Akışlı sohbet arayüzü: SSE olaylarından ekrandaki metne |
Bitirme projesi
Bir dersin notlarını (kendi dersin ya da bu sayfadaki sekiz not) okuyup kaynak göstererek cevap veren, notlarda olmayanı "bilmiyorum" diye bildiren, kişisel veriyi maskeleyen ve cevabı akışlı gösteren bir web asistanı.
Proje ve teslimlerAraçlar
- Bu platform: tarayıcıda on öğretim simülasyonu; site hiçbir dış LLM servisine istek göndermez
- Kendi bilgisayarın: anthropic paketiyle Python 3.10+, @anthropic-ai/sdk ile Node.js 20+
- ANTHROPIC_API_KEY ortam değişkeninde bir API anahtarı; asla kodda ya da tarayıcıda değil
Üniteleri ve bitirme projesini tamamlayana Macademia katılım belgesi verilir.