En sak till ur Aftonbluddret:
http://www.aftonbladet.se/partnerstudio/digitalalivet/95dee7de-88ef-4e0d-bbe1-c025e63d6005@omni
"En farhåga som många forskare och andra experter ser med AI (artificiell
intelligens) och robotar i framtiden är att de skulle kunna bli farliga och
rent av vända sig mot oss människor. Därför har forskarna Mark Riedl och Brent
Harrison vid Georgia Tech-universitetet börjat experimentera med att mata
AI-system med sagor och berättelser med alternativ händelseutveckling, där den
artificiella intelligensen belönas när den tar handlingen framåt genom att
välja ett etiskt sunt alternativ och bestraffas om den väljer ”fel” väg.
Inspirationen till det hela har forskarna hämtat från hur barn lär sig skilja
mellan rätt och fel beteende genom exempelvis sagor. Som exempel på en
situation som kräver mänskliga värderingar nämner forskarna en robot som
beordras skaffa medicin åt en människa ”snabbast möjligt”. Roboten kan i det
läget välja att råna apoteket, försöka interagera med personalen eller rätt och
slätt vänta i kön. En robot utan etisk kompass skulle välja det första
alternativet, då det snabbast åstadkommer det önskade resultatet."
Men jag undrar hur man ger en AI "belöningar"? I så fall måste det finnas en
personlighet i AI:n, någon "som är hemma", som kan "känna av" positivt eller
negativt. Säger man: är du snäll får du några Tbyte mineskapslar till, och är
du elak går det för dig som HAL i "2001"?
Jag tror f ö inte på elaka-AIn-som-tar-över-jorden-hypotesen. En artificiell
inteligens som närmar sig människans förmåga kommer bara att kunna skapas bit
för bit, inkrementellt, och kommer i början att vara ganska ointelligent och
klumpig, som en 3-årig människa kanske. Märker man att denna AI visar tendenser
mot elakhet kan man lätt ändra på den. En superintelligent AI kommer inte att
poppa up hux flux, och det finns inget vi kan göra.
--Ahrvid
--
ahrvid@xxxxxxxxxxx / Follow @SFJournalen on Twitter for the latest news in
short form! / Gå med i SKRIVA - för författande, sf, fantasy, kultur
(skriva-request@xxxxxxxxxxxxx, subj: subscribe) och förbered dig för
FANTASTIKNOVELLTÄVLINGEN 2016, info www.skriva.bravewriting.com / Om Ahrvids
novellsamling Mord på månen: http://zenzat.wordpress.com/bocker C Fuglesang: ;
"stor förnöjelse...jättebra historier i mycket sannolik framtidsmiljö"! /Nu som
ljudbok: http://elib.se/ebook_detail.asp?id_type=ISBN&id‘86081462 / Läs även AE ;
i nya E-antologin Mellan tid och rum
<http://www.adlibris.com/se/e-bok/mellan-tid-och-rum---himmel-och-hav-9789187711435
/> YXSKAFTBUD, GE VÅR WCZONMÖ IQ-HJÄLP! (DN NoN 00.02.07)
-----
SKRIVA - sf, fantasy och skräck * Äldsta svenska skrivarlistan
grundad 1997 * Info http://www.skriva.bravewriting.com eller skriva- ;
request@xxxxxxxxxxxxx för listkommandon (ex subject: subscribe).
