Şirketlerin insan kaynakları süreçlerinde yapay zekâ kullanımı giderek yaygınlaşırken çalışanların geleceğini doğrudan etkileyen kararların algoritmalara bırakılması tartışma konusu olmaya devam ediyor. ABD’nin California eyaleti bu konuda yeni düzenlemeleri hayata geçirdi.

YAPAY ZEKÂ KARARLARINA İNSAN DENETİMİ

Yeni kurallar, şirketlerin çalışanlarla ilgili önemli kararları otomatik sistemlere bırakmasını sınırlandırıyor. İşe alım, terfi, performans değerlendirmesi, disiplin ve işten çıkarma gibi çalışan üzerinde ciddi sonuçlar doğurabilecek süreçlerde yapay zekâ kullanılması halinde insan denetiminin devrede olması öngörülüyor. Böylece çalışanların geleceğini etkileyen kritik kararların yalnızca bir algoritmanın değerlendirmesine dayanmasının önüne geçilmesi amaçlanıyor.

“ROBOT PATRON” TARTIŞMASI

Düzenleme özellikle çalışanları otomatik olarak değerlendiren ve yöneticiler adına karar verebilen yapay zekâ sistemlerini yeniden gündeme taşıdı. Bu tür teknolojiler çalışanların performansından çalışma alışkanlıklarına kadar çok sayıda veriyi analiz edebiliyor. Ancak algoritmaların hatalı, eksik veya önyargılı veriler üzerinden karar verebilmesi çalışan hakları açısından ciddi tartışmalara neden oluyor.

ÇALIŞANLARIN YAPAY ZEKÂ İLE İZLENMESİ DE GÜNDEMDE

California’daki yeni yapay zekâ düzenlemeleri yalnızca işe alma ve işten çıkarma süreçleriyle sınırlı değil. Çalışanların işyerinde yapay zekâ destekli sistemlerle izlenmesi ve toplanan verilerin nasıl kullanılacağı konusunda da yeni kurallar getiriliyor. Amaç, şirketlerin teknolojiden yararlanmasına izin verirken çalışanların mahremiyetinin ve temel haklarının korunması.

DEEPFAKE VE SAĞLIK ALANINDA DA YENİ KURALLAR

Eyalette imzalanan yapay zekâ düzenlemeleri paketi çalışma hayatının dışında farklı alanları da kapsıyor. Deepfake teknolojileri, yapay zekâ tarafından oluşturulan veya değiştirilen içerikler ve sağlık sektöründe kullanılan yapay zekâ sistemleri de yeni kuralların kapsamına giriyor. California yönetimi, hızla gelişen teknolojinin neden olabileceği risklere karşı yasal çerçeveyi genişletmeyi hedefliyor.

TEKNOLOJİ DÜNYASININ MERKEZİNDE DİKKAT ÇEKEN ADIM

California; Google, Apple, Meta, Nvidia ve OpenAI gibi dünyanın önde gelen teknoloji şirketlerinin merkezlerinin bulunduğu ABD eyaletlerinden biri. Bu nedenle eyalette yapay zekâ kullanımına ilişkin alınan kararlar yalnızca California’daki şirketler açısından değil, teknoloji sektörünün gelecekte uygulayacağı standartlar açısından da yakından takip ediliyor.

YAPAY ZEKÂ PATRONUN YERİNİ ALACAK MI?

Son dönemde yapay zekâ ajanlarının e-posta göndermekten müşteri görüşmelerine, çalışan performansını analiz etmekten çeşitli şirket süreçlerini yönetmeye kadar daha fazla yetki kazanması “yapay zekâ yöneticiler” tartışmasını da beraberinde getirdi. California’daki yeni düzenlemeler ise yapay zekânın şirketlerde daha fazla kullanıldığı bir dönemde kritik personel kararlarında insan sorumluluğunun tamamen ortadan kalkmaması gerektiği yaklaşımını güçlendiriyor. Yapay zekâ şirketlere karar desteği sunmaya devam edebilecek ancak çalışanların geleceğini doğrudan etkileyen süreçlerde insan denetiminin önemi daha da artacak.