AI Alignment
Yapay zekâ sisteminin davranışını insan niyeti, güvenlik gereksinimleri ve meşru politika sınırlarıyla uyumlu kılma problemidir.
Tanım
Yapay zekâ sisteminin davranışını insan niyeti, güvenlik gereksinimleri ve meşru politika sınırlarıyla uyumlu kılma problemidir.
Teknik Bağlam
Hizalama yalnız kibar çıktı üretmek değildir. Amaç tanımı, tercih verisi, araç yetkisi, düzeltilebilirlik, değerlendirme ve üretim güvenlik sınırlarını kapsayan sistem problemidir.