2016-02-14 13:08 skrev Ahrvid:
En sak till ur Aftonbluddret:
http://www.aftonbladet.se/partnerstudio/digitalalivet/95dee7de-88ef-4e0d-bbe1-c025e63d6005@omni
"En farhåga som många forskare och andra experter ser med AI
(artificiell intelligens) och robotar i framtiden är att de skulle
kunna bli farliga och rent av vända sig mot oss människor. Därför har
forskarna Mark Riedl och Brent Harrison vid Georgia Tech-universitetet
börjat experimentera med att mata AI-system med sagor och berättelser
med alternativ händelseutveckling, där den artificiella intelligensen
belönas när den tar handlingen framåt genom att välja ett etiskt sunt
alternativ och bestraffas om den väljer ”fel” väg. Inspirationen till
det hela har forskarna hämtat från hur barn lär sig skilja mellan rätt
och fel beteende genom exempelvis sagor. Som exempel på en situation
som kräver mänskliga värderingar nämner forskarna en robot som
beordras skaffa medicin åt en människa ”snabbast möjligt”. Roboten kan
i det läget välja att råna apoteket, försöka interagera med personalen
eller rätt och slätt vänta i kön. En robot utan etisk kompass skulle
välja det första alternativ
et, då det snabbast åstadkommer det önskade resultatet."
Men jag undrar hur man ger en AI "belöningar"? I så fall måste det
finnas en personlighet i AI:n, någon "som är hemma", som kan "känna
av" positivt eller negativt. Säger man: är du snäll får du några Tbyte
mineskapslar till, och är du elak går det för dig som HAL i "2001"?
Jag tror f ö inte på elaka-AIn-som-tar-över-jorden-hypotesen. En
artificiell inteligens som närmar sig människans förmåga kommer bara
att kunna skapas bit för bit, inkrementellt, och kommer i början att
vara ganska ointelligent och klumpig, som en 3-årig människa kanske.
Märker man att denna AI visar tendenser mot elakhet kan man lätt ändra
på den. En superintelligent AI kommer inte att poppa up hux flux, och
det finns inget vi kan göra.
--Ahrvid
-----
--
ahrvid@xxxxxxxxxxx / Follow @SFJournalen on Twitter for the latest
news in short form! / Gå med i SKRIVA - för författande, sf, fantasy,
kultur (skriva-request@xxxxxxxxxxxxx, subj: subscribe) och förbered
dig för FANTASTIKNOVELLTÄVLINGEN 2016, info
www.skriva.bravewriting.com / Om Ahrvids novellsamling Mord på månen:
http://zenzat.wordpress.com/bocker C Fuglesang: "stor
förnöjelse...jättebra historier i mycket sannolik framtidsmiljö"! /Nu
som ljudbok: http://elib.se/ebook_detail.asp?id_type=ISBN&id‘86081462
/ Läs även AE i nya E-antologin Mellan tid och rum
<http://www.adlibris.com/se/e-bok/mellan-tid-och-rum---himmel-och-hav-9789187711435
/> YXSKAFTBUD, GE VÅR WCZONMÖ IQ-HJÄLP! (DN NoN 00.02.07)
-----
SKRIVA - sf, fantasy och skräck * Äldsta svenska skrivarlistan
grundad 1997 * Info http://www.skriva.bravewriting.com eller skriva-
request@xxxxxxxxxxxxx för listkommandon (ex subject: subscribe).
