Kan AI-agenter lära sig sociala normer som barn lär sig regler?

arXiv cs.AI

Forskare argumenterar att autonoma AI-agenter inte kan programmeras med fasta regler för hur de ska bete sig – de måste istället lära sig normer gradvis genom erfarenhet, ungefär som barn socialiseras in i samhällets spelregler. Idén är att 'regulatory sandboxes' (testmiljöer med begränsad reglering) kan fungera som pedagogiska miljöer där AI fostras mot alignment (att agera i linje med mänskliga värderingar) snarare än att tvingas in i det från start. Det är ett intressant perspektivskifte: från alignment som tekniskt problem till alignment som uppfostringsprocess.