yoginka: (thinking)
Уже несколько раз писала об этом. Статей попадается много, но продвижений пока не видно, если не считать внушительного списка подписей авторитетов.

Еще интересная статья:
http://slatestarcodex.com/2015/05/29/no-time-like-the-present-for-ai-safety-work/

Понравился аргумент скептиков:
"if Alan Turing had gotten it into his head to try to solve it in 1945, his ideas might have been along the lines of “Place your punch cards in a locked box where German spies can’t read them.”"

Несколько новых, неожиданных аспектов проблемы, причем в паре из них мне показались и кое-какие надежды на возможные подходы к решению вопросов безопасности:

аналогия с бесконечной стимуляцией гипоталамуса (Problem 1: Wireheading);
аналогия с религией (Problem 2: Weird Decision Theory).
From:
Anonymous
OpenID
Identity URL: 
User
Account name:
Password:
If you don't have an account you can create one now.
Subject:
HTML doesn't work in the subject.

Message:

 
Notice: This account is set to log the IP addresses of everyone who comments.
Links will be displayed as unclickable URLs to help prevent spam.

February 2017

S M T W T F S
   1234
5678 91011
12131415161718
19202122232425
262728    

Links

Most Popular Tags

Style Credit

Expand Cut Tags

No cut tags
Page generated Oct. 18th, 2017 06:15 pm
Powered by Dreamwidth Studios