湘科社《人机对齐》新书首发，我们怎么看待人工智能

　　长沙晚报掌上长沙6月11日讯（全媒体记者 尹玮）记者今日从湖南科学技术出版社获悉，该社引进出版的《人机交互》一书在10日举办的2023年北京智源大会上首发。

　　2023年北京智源大会是人工智能领域综合性内行盛会，大会集结众多AI领域的探索者、实践者。10日举行的AI安全与对齐论坛，主要讨论大模型时代如何确保越发强大和通用的人工智能系统安全可控，即对齐问题，它是本世纪人类社会面临的最紧迫和最有意义的科学挑战之一。论坛上发布了科学作家布莱恩·克里斯汀（Brian Christian）的最新作品《人机对齐》。

　　如今的机器学习系统已具备非凡能力，能够在各种场合代替我们看和听，并代表我们做决定。但是警钟已经敲响，随着机器学习飞速发展，人们的担忧也在与日俱增。如果我们训练的人工智能（AI）做的事情与我们真正的目的不符，就会引发潜在的风险和伦理问题。研究人员称之为对齐问题（the alignment problem）。

　　布莱恩·克里斯汀用生动的笔调，清晰阐释了AI与我们息息相关的问题。在书中，我们将认识第一批积极应对对齐问题的学者，了解他们为了避免AI发展的局面失控付出的卓绝努力和雄心勃勃的计划。作家不仅精练地描绘了机器学习的发展史，并且亲自深入科研一线同科学家对话，准确呈现了机器学习最前沿的进展。

　　《人机对齐》全书共分为三篇：第一篇就当前影响机器学习系统的伦理和安全问题进行了探讨；第二篇名为自主，焦点从监督和自监督学习转移到强化学习；第三篇在监督学习、自监督学习、强化学习的基础上探讨我们如何在现实世界中对齐复杂的AI系统。

　　读者可以清晰认识到，对齐问题研究的成败，将对人类的未来产生决定性影响。对齐问题还是一面镜子，将人类自身的偏见和盲点暴露出来，让我们看清自己从未阐明的假设和经常自相矛盾的目标。这是一部精彩纷呈的跨学科史诗，不仅审视了人类的科技，也审视了人类的文化，时而让人沮丧，时而又柳暗花明。

　　这本书在国外出版后反响热烈，被微软首席执行官萨蒂亚·纳德拉评为2021年最激励他的五本书之一，被《纽约时报》评为关于AI关键技术和道德问题的best书籍，如作者布莱恩·克里斯汀所言：“希望中国AI领域以及更广泛的中国读者也可以读到这本书，希望对你们而言，这本书是内容丰富、发人深省、鼓舞人心的，不仅对于作为研究人员有帮助，也有助于你们把自己对这个领域的热情传递给生活中的非计算机科学家。”