人工智能危及人类？科学家发公开信吁防其政变

www.ijjnews.com 浙江在线-钱江晚报 2015-01-14 08:58

　　有朝一日人工智能机器会拒绝服从人类指挥，甚至杀死或控制人类、最终统治世界吗？包括英国理论物理学家斯蒂芬·霍金在内，数百名科学家和企业家联合发表的一封公开信或体现了这种担忧，公开信敦促人们警惕人工智能“脱离人类的控制”，导致灾难。

　　目前，人工智能研究的成果已被广泛运用，其中包括语音识别和图像识别，以及自动驾驶的汽车。在硅谷，有估计从事人工智能业务的初创企业已超过了150家。

　　英、法等国媒体12日报道，这封信由非营利机构“未来生活研究所”发布。信中写道，人工智能技术稳定发展已获“广泛共识”，而且未来能够给人类带来巨大益处。“人工智能已经为人类生活提供便利，包括语音识别技术、图像分析技术、无人驾驶汽车和翻译工具”。但是，“如果没有针对人工智能的安全防护措施，可能导致人类的未来变得黯淡，甚至让人类灭亡”。

　　公开信认为，人工智能可能导致数以百万计人失业；长期而言，可能出现一些科幻电影中的情况，人工智能的智力水平超过人类，开始“政变”。按人工智能的发展进度，在不久的将来，机器可能以不断加快的速度重新设计自己，超越受制于生物进化速度的人类，“最终摆脱人类的控制”。

　　除霍金外，在信上签名的还有美国机器人和智能机械研究中心主任卢克·米尔豪泽、2004年诺贝尔物理学奖获得者弗兰克·维尔切克、美国网络通讯软件Skype创始人之一扬·塔利英、美国太空探索技术公司和美国特斯拉汽车公司首席执行官埃隆·马斯克，以及一些来自美国哈佛大学、斯坦福大学等知名高校的顶尖学者和一些来自谷歌公司、微软公司等高科技企业的工作人员。

　　今年早些时候，霍金就提醒，需警惕人工智能科技失控并超越人类智慧，最终破坏整个星球。太空探索技术公司和特斯拉汽车公司首席执行官马斯克在美国麻省理工学院参加一场活动时说：“我认为对待人工智能我们必须非常谨慎。

　　按照我的猜想，人工智能可能是我们面临的最大灭绝风险。”马斯克说，创造人工智能犹如“召唤一只恶魔”，“在一些故事中，有人拥有五星阵法和圣水……他确信自己可以控制这只恶魔，不过事实并非如此”。

　　据新华社、央广

标签：人工|智能|政变

稿源：　浙江在线-钱江晚报　编辑：郭婧婧 [打印]　

分享到：

网友评论：

请您文明上网、理性发言并遵守相关规定。

发布

你至少需要输入 5 个字昵称：

<div class="msgList">
                        <div class="msgList-t">
                            评论（
                            <span>
                                {$T.cmt.length}
                            </span>
                            ）
                        </div>
                        <div class="msgList-Cont">
                            {#foreach $T.cmt as comm}
                            <div class="CLZ msgList-item">
                                <div class="item-level1 clearfix">
                                    <div class="msgUser-info-bottom">
                                        <div class="msgUserName">
                                            <span>
                                                {$T.comm.userType}
                                            </span>
                                        </div>
                                        <div class="msgUserCont wrap">
                                            {$P.repl($T.comment[$T.comm.cmtId])}
                                        </div>
                                        <div class="msgFunc">
                                            <div class="msgFuncR">
                                                <span class="zan" style="">
                                                    <a href="javascript:void(0);" onclick="add('{$T.comm.cmtId}')" id="dingA{$T.comm.cmtId}">
                                                        <span id="dingS{$T.comm.cmtId}">
                                                            赞(
                                                            <span id="ding{$T.comm.cmtId}" style="margin-left:0px;">
                                                                {$T.comm.ding}
                                                            </span>
                                                            )
                                                        </span>
                                                    </a>
                                                </span>
                                                <span class="huifu">
                                                    <a href="javascript:void(0);" onclick="replay('{$T.comm.cmtId}')">
                                                        评论({#if $T.followCMT[$T.comm.cmtId]==null}0{#else}{$T.followCMT[$T.comm.cmtId].length}{#/if})
                                                    </a>
                                                </span>
                                            </div>
                                            <span class="msgDate">
                                                <span>
                                                    {#if $T.commentDate[$T.comm.cmtId]==''}刚刚{#else}{$T.commentDate[$T.comm.cmtId]}前{#/if}
                                                </span>
                                            </span>
                                        </div>
                                    </div>
                                </div>
                                <div class="follow item-level2" id="follow{$T.comm$index+1}">
                                    {#if $T.followCMT[$T.comm.cmtId]!=null} {#foreach $T.followCMT[$T.comm.cmtId]
                                    as follow}
                                    <div class="item-level2-li" id="followDiv{$T.follow$index+1}">
                                        <div class="item-level2-name">
                                            
                                        </div>
                                        <div class="item-level2-Cont wrap">
                                            <span style="float:right;">
                                                {$T.followCMT[$T.comm.cmtId].length-$T.follow$index}楼
                                            </span>
                                            {$P.repl($T.comment[$T.follow.cmtId])}
                                        </div>
                                        <div class="msgFunc">
                                            <div class="msgDate">
                                                <span>
                                                    {#if $T.commentDate[$T.follow.cmtId]==''}刚刚{#else}{$T.commentDate[$T.follow.cmtId]}前{#/if}
                                                </span>
                                            </div>
                                        </div>
                                    </div>
                                    {#/for} {#/if}
                                </div>
                            </div>
                            <div id="replay{$T.comm.cmtId}" style="display:none;">
                            <form method="post"  id="form{$T.comm.cmtId}">
                                <div class="divTextArea">
                                    <textarea id="content{$T.comm.cmtId}" style="margin:10px 0 0 0;width:608px;" rows=5
                                    cols=80 class="textElArea" onkeyup="tip({$T.comm.cmtId})" ></textarea>
                                </div>
                                {#if $T.comm.topCmtId!=-1}
                                <input value="{$T.comm.topCmtId}" id="topCmtId{$T.comm.cmtId}" type="hidden" name="vo.topCmtId">
                                {#else}
                                <input value="{$T.comm.cmtId}" id="topCmtId{$T.comm.cmtId}" type="hidden" name="vo.topCmtId">
                                {#/if}
                                <input name="content" id="cmt{$T.comm.cmtId}" type="hidden">
                                <input name="vo.channelId" value="2004001000000000" id="channelId" type="hidden">
                                <input name="vo.newsId" value="010823777" id="newsId" type="hidden">
                                <input name="deCodeUserId"  id="deCodeUserId{$T.comm.cmtId}" type="hidden">
                                <input name="vo.title"  value="人工智能危及人类？科学家发公开信吁防其政变" type="hidden">
                                <input name="vo.newsUrl"  type="hidden" value="http://news.ijjnews.com/system/2015/01/14/010823777.shtml">
                                <div class="func-Area">
                                    <div class="fuc-send1">
                                        <a onclick="addComment('{$T.comm.cmtId}',this)" class="sendBtn" href="javascript:void(0);">
                                            发布
                                        </a>
                                    </div>
                                </div>
                                <div class="kind">
                                    <div class="ficon_face {$T.comm.cmtId}">
                                    </div>
                                    <span class="kind-tips">
                                        你至少需要输入
                                        <span class="kind-tipsNum" id="tip{$T.comm.cmtId}">
                                            5
                                        </span>
                                        个字     昵称：  <input type="text" name="vo.userType"  id="userType{$T.comm.cmtId}"  class="text">      <span class="showCode" style="display:none;">请输入验证码：
                                        <img src="http://vote.ijjnews.com:9000/comment/kaptcha.jpg" class="kaptchaImage" style="cursor:pointer;" onclick="changeImg('http://vote.ijjnews.com:9000/comment/');" />
                   			  <input type="text"  id="imgText{$T.comm.cmtId}" name="imgCode" style="height:30px;" />
                                        </span>
                                    </span>
                                </div>
                                </form>
                            </div>
                            <script type="text/javascript">
                                var cot = 'content{$T.comm.cmtId}';
                                var opti = new Object();
                                opti.id = 'facebox';
                                opti.assign = cot;
                                opti.path = 'http://vote.ijjnews.com:9000/comment/js/QQFace/arclist/';
                                $('.{$T.comm.cmtId}').qqFace(opti); //表情存放的路径
                                
                            </script>
                            {#/for}
                        </div>
                        <a href="javascript:void(0);" onclick="seeMoreCMT('http://vote.ijjnews.com:9000/comment/');"
                        class="msgMore">
                            查看全部
                            <span id="commentAll">
                                {$T.allCmt}
                            </span>
                            条评论>>
                        </a>
                        <input name="vo.channelId" value="2004001000000000" id="channelIdOrign"
                        type="hidden">
                        <input name="vo.newsId" value="010823777" id="newsIdOrign" type="hidden">
                    </div>

晋江新闻网版权与免责声明：
(1)凡本网注明“来源：晋江新闻网或晋江经济报”的所有文字、图片和视频，版权均属晋江新闻网所有，任何媒体、网站或个人未经本网协议授权不得转载、摘编或利用其它方式使用上述作品。已经本网授权的媒体、网站，应在授权范围内使用，并注明“来源：晋江新闻网”。违反上述声明者，本网将追究其相关法律责任。
(2)凡本网注明“来源：×××（非晋江新闻网或晋江经济报）”的文/图等稿件均为转载稿，转载目的在于传递更多信息，繁荣发展互联网行业，并不意味着赞同其观点或证实其内容的真实性。如其他媒体、网站或个人从本网下载使用，必须保留本网注明的“来源”，并自负版权等法律责任。如擅自篡改为“来源：晋江新闻网”，本网将依法追究责任。如对稿件内容有疑议，请及时与我们联系。
(3)如因作品内容、版权和其它问题需要同本网联系的，请在两周内速来电或来函与本网联系。电话：0595-86170187。