Episode notes
Evolutsioon on ligi neli miljardit aastat optimeerinud ainult ühte asja: geenide jõudmist järgmisse põlvkonda. Kui pessimisti loogika kehtiks, peaks selle töö tulemus olema bioloogilised paljunemismasinad, kelle iga tegu teenib järglaste arvu. Evolutsioon ei saanud seda eesmärki inimesele otse sisse panna, nii et sisse läksid asendajad: iha, nälg, kiindumus, hirm. Need täidavad inimese käitumises rolli, mis sarnaneb AI-treeningu tasusignaalidega.
Keywords
AI
AI optimism
AGI