어떻게 AI 관리의 주도권을 확고히 장악할 수 있을까?

[번역] 장신 저자 / 강정구 번역

기자명 장신 저자 / 강정구 번역 입력 2025.05.09 10:45 댓글 0

https://www.tongilnews.com/news/articleView.html?idxno=213428

 

원제 : 如何牢牢掌握AI治理主动权 (환구시보 게재)

저자 : 장신 (张欣 / 대외경제무역대학교 법학부 교수, 박사과정 지도교수, 대외경제무역대학교 디지털경제와 법률혁신 연구센터 소장)

출처 : https://opinion.huanqiu.com/article/4MSBrVQtPRQ (2025-04/28)

역자 : 강정구 전 동국대 교수

 

 

전 세계적으로 새로운 과학기술혁명과 산업변혁이 가속적으로 진전되는 거대한 흐름 속에서, 인공지능(AI)은 그 파괴적인(颠覆性的) 역량으로 인류사회의 생산 및 생활 방식과 국제 경쟁구도를(竞争格局) 근본적으로 재구축하고 있다(深刻重塑着). 이 전략적 기술이 가져온 거센 물결에(澎湃浪潮) 직면하여, 중국공산당중앙위원회 총서기 시진핑은 중앙정치국 제20차 집단학습을 주재하면서 높은 안목으로(高屋建瓴地) 다음과 같이 지적하였다.

 

"인공지능은 전대미문의(前所未有) 발전기회를 가져오며, 또한 전례 없는(前所未遇) 위험과 도전을 가져온다." 이 중요한 지적은 인공지능 발전의 이중적 속성을 변증법적으로 제시한 것이다. 곧, 우리나라가 새로운 과학기술 혁명을 실행하고 있는 가운데, 인공지능의 건강하고 질서 있는 발전을 추동하고, 중국의 지혜와 글로벌 시야를 체현하는 관리체계를 구축하는 데 근본적인 준칙과 행동지침을 제공하는 것이다.

 

현재 우리나라는 사회주의현대화국가의 전면적 건설이라는 새로운 여정을 시작하고, 두 번째 백년의 분투목표를(1949년의 국가창건 100주년을 맞는 2049년에 달성할 목표를 설정한 것을 가리킴-역자) 향해 진군하는 중요한 역사적 갈림길에(历史节点) 서있다. 이 시점에 인공지능은 새로운 질적 생산력을 발전시키고, 고품질 발전을 추동하고, 중국식현대화의 새로운 이점과 동력을 이룩하는데, 비약적인 도움을 준다(跨域式助力).

 

각 분야의 산업에(千行百业) 힘을 실어주고(赋能), 사회 관리를 최적화하여 민생복지의 개선이나 과학연구의 돌파구 가속화에 이르기까지, 인공지능의 응용 전망은 무한히 넓다. 우리나라는 방대한(海量) 데이터 자원, 완비된 산업체계, 광활한 응용 현장과 거대한 시장공간을 보유하고 있다. 이는 인공지능 기술의 반복적인 혁신과(迭代创新) 심층적인 응용에 천혜의(得天独厚的) 이점을 제공한다.

 

이러한 이점을 확고히 잡고, 인공지능과 실물경제의 깊은 융합을 추동하고, 전통산업의 전환과 업그레이드를 지원하고(赋能), 신(新)산업·신(新)업태·신(新)모형을 촉진하여, 기술 잠재력을 실질적인 발전효과로 전환해야 한다. 인공지능발전의 기회를 포용하는 동시에, 또한 인공지능이 가져오는 잠재적 위험과 엄중한 도전을(严峻挑战) 결코 홀시해서는 안 된다.

 

알고리즘 편견(算法偏见), 데이터 남용, 개인정보 유출, 심층 위조, 고용 충격, 윤리 위반 및 기술통제 불능 등의 위험은 경제사회 질서를 혼란시킬 뿐만 아니라 국가안보와 국제질서에도 위협이 될 수 있다. 특히 현재 복잡하고 엄중한 국제정세 하에서 일부 서방 국가들은 기술문제를 정치화하고 기술봉쇄와 '작은 마당 높은 장벽'을 대대적으로 추진하여 인공지능을 이용해 다른 나라의 발전을 억제하려고 한다.

 

이는 전(全)세계 인공지능 분야의 불확실성과 안전위험을 가중시키고 있다. 이 날카로운 "양날의 검(双刃剑)"에 직면하여, 변화를 용감하게 받아들이고 기회를 잡아야 할 뿐만 아니라, 항상 냉철한 생각을 유지하고 최악의 상황을 사전에 대비해야 한다(未雨绸缪).

 

어떻게 이익을 추구하고 해악을 피하여 인공지능이 인류사회 발전에 유익한 궤도를 따라 계속 전진하도록 보장할 수 있을까? 이를 위해 "인공지능의 발전 추세와 규칙을 파악하고, 관련된 법률·법규, 정책제도, 응용규범, 윤리준칙을 긴급히 제정·완비하고, 기술모니터링(技术监测), 위험예고, 응급대응체계를 구축하고, 인공지능의 안전성, 신뢰성, 통제성을(可控”) 확보해야 한다." 이는 우리나라 인공지능 관리체계의 대략적인 윤곽을 그려내는 것이며, 혁신발전과 위험방지 사이의 균형을 위해 중요한 기준을 제공하는 것이다.

 

그중 "안전성"은 기본적인 요구이다(底线要求).

 

이는 기술 자체의 결함이나 취약성 또는 외부 공격이나 남용·오용으로 인한 내생적·외생적 위험을 방지하는 데 전력을 다하는 것을 목적으로 한다. 또한 인공지능시스템과 응용이 개인, 조직, 사회 및 국가 안보에 위협이 되지 않도록 보장해 주는 것을 목표로 한다.

 

"신뢰성"은 안정적인 보장을 말한다.

 

이는 인공지능시스템이 사전 설정된 기능과 조건에서 안정적으로 운행될 수 있는 능력과 확률을 강조하여, 핵심 분야와 중요한 상황에서 지속적이고 신뢰할 수 있는 역할을 할 수 있도록 보장하고, 시스템 고장이나 성능 파동으로 인한 손실을 방지하는 것을 목표로 한다.

 

"통제성"은 주도성을 전제로 한다.

 

이는 인간이 처음부터 끝까지 인공지능기술의 연구개발·배치·운영·반복활용에(迭代) 대한 주도권과 개입역량을(干预能力) 항상 유지할 것을 요구한다. 기술 발전이 미리 설정된 목표를 벗어나지 않도록(不偏离) 보장하는 것이다. 일단 예기하지 못한 행위나 잠재적인 위험이 발생할 경우에는, 적기(及时, 適期)에 맞춰 효과적인 인간의 개입과 수정 및 종료를 단행할 수 있어야 한다.

 

이 세 가지 주요 목표는 서로 연관되어 있고, 단계적으로 전진한다(层层递进). 그래서 인공지능의 전 생애 주기를 아우르는(覆盖) 안전 보호망을 공동으로 구성하게 된다. "안전성, 신뢰성, 통제성“을 실현하기 위해서는, 관련 법률과 규정, 정책제도, 응용규범, 윤리준칙을 신속히 제정하고 완비하여 "기술모니터링, 위험경고, 응급대응 체계"를 구축하여야 한다. 그래서 우리나라가 인공지능 관리체계의 프레임을 한걸음 앞서서(进一步) 구축해야 하는 것이다. 현 단계 우리나라는 알고리즘등록(算法备案)제도를 구축하여 심층합성, 생성형 인공지능 등의 서비스를 동적으로 추적관리하고(追踪管理) 있다.

 

우리나라는 인공지능 응용의 등급별 분류 감독 프레임을 결합하여, 여러 가지 상황의(不同场景) 위험 등급에 따라, 차별화된 응급처치 대책을 실행하고 있다. 위험의 정확한 차단과 민첩한 대응을 실현하고, 동시에 기술혁신을 위해 필요한 시행착오의(试错) 여지를 남겨두고 있다. 아직 계속해서 "소프트웨어와 하드웨어 방식의 협동으로" 관리방식을(治理模式) 한 걸음 앞서서(进一步) 탐구하고, 다양한 관리효율을(治理效能) 발휘해야(释放) 한다.

 

이러한 것들을 통해, 중국은 인공지능 관리방면에 실천적 탐색, 특히 발전과 안전의 통합적 계획, 혁신과 질서사이의 균형, 효율과 공평 분야의 협조적인 경험 등등을 통해, 고품질 발전을 위한 제도적 보장을 갖추었다. 뿐만 아니라, 전 세계가 인공지능 도전에 대응하기 위해, 귀중한 중국의 지혜와 참고할 수 있는 제도적 도구상자를 제공해 왔다.

 

인공지능이라는 기회와 도전이 충만한 신세계에 직면하여, 응당 고(高)품질 발전과 고(高)수준의 안전을 통합적으로 계획해야 한다. 발전 추세의 선두에 용감하게 나서야 하고(勇立潮头), 혁신을 개척해야 할 필요가 있다.

 

또한 동시에 경외심을 가지고 안정적으로 멀리 나아가야 한다. 이들을 통해 전 세계 스마트혁명의(智能革命) 물결 속에서 중국의 지혜를 드러내는 새로운 장을 써 내려가야 할 것이다.

 

 

张欣：如何牢牢掌握AI治理主动权

来源：环球时报 作者：张欣

-2025-04/28

https://opinion.huanqiu.com/article/4MSBrVQtPRQ

 

 

 

在全球新一轮科技革命和产业变革加速演进的宏大背景下，人工智能（AI）正以其颠覆性的力量，深刻重塑着人类社会的生产生活方式与国际竞争格局。面对这一战略性技术带来的澎湃浪潮，中共中央总书记习近平在主持中央政治局第二十次集体学习时高屋建瓴地指出：“人工智能带来前所未有发展机遇，也带来前所未遇风险挑战。”这一重要论断，辩证地揭示了人工智能发展的双重属性，为我国在新一轮科技革命背景下，推动人工智能健康有序发展、构建体现中国智慧和全球视野的治理体系，提供了根本遵循和行动指南。

 

当前，我国正处于开启全面建设社会主义现代化国家新征程、向第二个百年奋斗目标进军的重要历史节点，人工智能是发展新质生产力、推动高质量发展、跨域式助力中国式现代化的新优势和新动能。从赋能千行百业、优化社会治理到改善民生福祉、加速科研突破，人工智能的应用前景无限广阔。我国拥有海量数据资源、完备产业体系、广阔应用场景和巨大市场空间，这为人工智能技术的迭代创新与深度应用提供了得天独厚的优势。牢牢抓住这一优势，推动人工智能与实体经济深度融合，赋能传统产业转型升级，催生新产业新业态新模式，将技术潜力转化为实实在在的发展效能。在拥抱人工智能发展机遇的同时，绝不能忽视其带来的潜在风险与严峻挑战。算法偏见、数据滥用、隐私泄露、深度伪造、就业冲击、伦理失范乃至技术失控等风险，不仅可能扰乱经济社会秩序，甚至可能对国家安全和国际秩序构成威胁。特别是在当前复杂严峻的国际形势下，个别西方国家将科技问题政治化，大搞技术封锁和“小院高墙”，企图利用人工智能遏制他国发展，加剧了全球人工智能领域的不确定性和安全风险。面对这把锋利的“双刃剑”，既要勇于拥抱变革、抢抓机遇，也要始终保持清醒头脑，坚持底线思维，做到未雨绸缪。

 

如何趋利避害，确保人工智能始终沿着有益于人类社会发展的轨道前进？这就需要“把握人工智能发展趋势和规律，加紧制定完善相关法律法规、政策制度、应用规范、伦理准则，构建技术监测、风险预警、应急响应体系，确保人工智能安全、可靠、可控”。这擘画出了我国人工智能治理体系的大致轮廓，为平衡创新发展与风险防范提供了重要准则。其中，“安全”，是底线要求，旨在着力防范技术自身的缺陷、脆弱性或因外部攻击、滥用误用引发的内生与外生风险，保障人工智能系统和应用不对个人、组织、社会与国家安全构成威胁。“可靠”，是稳定保障，旨在强调人工智能系统在预设功能和条件下稳定运行的能力与概率，确保其在关键领域和重要场景中能够持续、可信地发挥作用，避免因系统故障或性能波动造成损失。“可控”，是主导前提，要求人类始终保持对人工智能技术研发、部署、运行和迭代的主导权与干预能力，确保技术发展不偏离预设目标，一旦出现非预期行为或潜在危害，能够及时有效地进行人工干预、纠偏乃至终止。这三大目标相互关联、层层递进，共同构成了覆盖人工智能全生命周期的安全防护网。

 

위로

为了实现“安全、可靠、可控”，还需通过加紧制定完善相关法律法规、政策制度、应用规范、伦理准则，“构建技术监测、风险预警、应急响应体系”，进一步搭建我国人工智能治理的系统性框架。现阶段，我国已经建立了算法备案制度，对深度合成、生成式人工智能等服务进行动态追踪管理。结合人工智能应用的分级分类监管框架，根据不同场景的风险等级，我国实施差异化的应急处置策略，实现风险的精准阻断与敏捷响应，同时为技术创新保留必要的试错空间。接下来，还要进一步探索“软硬法协同”的治理模式，释放多元化治理效能。

 

由此可见，中国在人工智能治理方面的实践探索，特别是在统筹发展与安全、平衡创新与秩序、协调效率与公平方面的经验，不仅为自身高质量发展提供了制度保障，也为全球应对人工智能挑战提供了宝贵的中国智慧和可资借鉴的制度工具箱。面对人工智能这片充满机遇与挑战的新大陆，应统筹高质量发展与高水平安全，既要勇立潮头、开拓创新，也要心存敬畏、行稳致远，在全球智能革命的浪潮中，书写彰显中国智慧的新篇章。

 

（作者是对外经济贸易大学法学院教授、博士生导师，对外经济贸易大学数字经济与法律创新研究中心主任）