인공지능(AI) 데이터 전문기업 셀렉트스타가 생성형 AI 서비스 신뢰성 검증 자동화 솔루션 'DATUMO Eval(다투모 이밸)'을 출시했다. 국내에서 처음으로 신뢰성 검증 프로세스를 자동화해, AI 서비스 운영 중 발생할 수 있는 다양한 오류와 위험성을 사전에 식별하

2025-02-20 14:25

국내 인공지능(AI) 스타트업 셀렉트스타가 AI 안전성 기술을 해외 시장에 뽐낸다. 셀렉트스타는 내달 5일 스페인 바르셀로나에서 열리는 세계 최대 이동통신 박람회 'MWC25'에서 AI 레드팀 챌린지를 진행한다. AI 레드팀은 AI 시스템의 유해하거나 차별적 결과, 시

2025-02-16 17:00

중국 인공지능(AI) 스타트업 딥시크에 대해 개인정보 보호, 보안 문제를 제기하면서 사용 차단에 나선 것은 우리나라만이 아니다. 이탈리아, 대만, 호주, 일본 등의 정부와 기관에서 접속 차단 조치가 내려지고 미국에서는 연방의회 차원에서 딥시크 앱을 차단하는 법안도 추진

2025-02-10 17:00

전 세계를 놀라게 한 중국 인공지능(AI) 스타트업 딥시크가 보안 우려로 정부와 공공기관, 주요 기업들을 중심으로 한 사용 차단 조치가 확산되고 있다. 과도한 개인정보 수집, 영업비밀 유출 가능성에 이어 AI 모델의 보안 취약성 문제까지 제기됐다. 전문가들은 AI 외교

2025-02-10 17:00

크라우드웍스가 인공지능(AI) 신뢰성과 안전성 강화를 위해 프랑스 파리에서 개최되는 'AI 행동 정상회의(AI Action Summit)'에 참석해 글로벌 협력에 박차를 가한다고 7일 밝혔다. 프랑스 정부가 주최하고 인도가 공동의장을 맡은 이번 정상회의는 오는 10일부

2025-02-07 10:16

중국 인공지능(AI) 스타트업 딥시크가 자사와 관련된 허위 정보와 위조 계정이 오해와 혼란을 일으키고 있다며 주의를 당부했다. 7일 중국 매체 제일재경과 펑파이 등에 따르면 딥시크는 전날 저녁 위챗 계정에 올린 '딥시크의 공식 정보 발표 및 서비스 채널에 대한 설명'이

2025-02-07 09:51

딥페이크를 비롯해 인공지능(AI) 오용과 악용으로 인한 폐해에 체계적으로 대응하기 위한 전담기관인 'AI안전연구소'가 공식 출범했다. 과학기술정보통신부는 27일 판교 글로벌 R&D센터에서 AI안전연구소 개소식을 개최하고 아시아태평양 지역을 대표하는 AI 안전 연구 거점

2024-11-27 14:30

과학기술정보통신부가 26일 서울 용산동 피스앤파크컨벤션에서 인공지능(AI) 분야 대기업·스타트업, 연구자 등 200여명이 참여하는 가운데 'AI신뢰·안전성 컨퍼런스'를 개최했다. 이번 컨퍼런스는 글로벌 차원의 AI신뢰·안전성 관련 기술·정책 동향을 공유하고, 2024년

2024-11-26 13:15

'인공지능(AI) 신뢰·안전성 컨퍼런스'와 '제2회 인공지능 신뢰성 대상'이 오는 26일 오전 10시 서울 피스앤파크컨벤션 3층 로얄홀(서울 전쟁기념관)에서 개최된다. 행사는 AI 기술의 신뢰성 확보와 안전 중요성에 대한 사회적 인식을 높이기 위해 과학기술정보통신부가

2024-11-20 13:19

인공지능(AI) 안전연구소가 미국 샌프란시스코에서 열리는 '국제 AI 안전연구소 네트워크' 회의 참석으로 공식 활동을 시작한다. 연구소 개소식은 이달 27일이다. 과학기술정보통신부는 김명주 AI 안전연구소 초대 소장(서울여대 정보보호학부 교수)이 20일(현지시간) 샌프

2024-11-19 14:20

과학기술정보통신부는 인공지능(AI)안전연구소 초대 소장에 김명주 서울여대 정보보호학부 교수를 임명했다고 12일 밝혔다. 임기는 3년이다. 김명주 초대 소장은 컴퓨터공학을 전공한 AI윤리·신뢰성 전문가다. 바른AI연구센터장, 국제AI윤리협회장, AI윤리정책포럼 위원장 등

2024-11-12 13:33

정부가 내달 인공지능(AI)안전연구소 설립·운영을 통해 안전한 AI 개발·활용을 확산에 나선다. AI 안전에 대한 국제적 연대 강화와 규범 정립을 수행하고, 중장기적으로 세계적 AI 안전 연구를 선도하는 기관으로 발전을 추진한다. 과학기술정보통신부는 18일 서울 중구

2024-10-18 15:10

콕스웨이브가 인공지능(AI) 안전성·AI 정렬(Alignment) 분야 연구를 주도하는 이기민 한국과학기술원(KAIST) 교수를 어드바이저로 영입했다. 이기민 교수는 국제머신러닝학회(ICML)와 신경정보처리시스템학회(NeurIPS), 국제표현학습학회(ICLR) 등 세계

2024-09-10 15:37