AI의 어두운 면과 이에 대한 생각들

"스위프트 '음란 딥페이크', 악성 커뮤니티서 '챌린지'로 시작"

• 기술이라는 이 도구를 바르게, 좋은 쪽으로 쓰는 방법을 어떻게 하면 더 잘 알려줄 수 있을까에 대해 고민하게 됩니다. 음지 문화는 계속해서 있을 수 밖에 없는 걸까요? 기사 말미에 테일러 스위프트 정도의 팬덤을 가져야 이런 게 이슈화가 되고 또 막을 힘도 생긴다는 부분도 씁쓸합니다. 좋은 기술이 좋지 않은 사람들 손에 쥐어졌을 때 최악의 경우를 막기 위한 장치나 시스템의 보완, 대비책 준비가 필요하겠습니다.

#220: 아이의 사진을 온라인에 업로드하는 것과 AI와의 관계

• 저도 온라인에 가급적 개인 정보를 올리지 않도록 해야겠습니다. 아직 아이는 없지만, 나는 우리 부모님의 자녀이자 언젠가 나도 부모가 되어 가정을 꾸리고 싶은 입장에서 가족을 공격하는 이러한 위험한 기술 활용은 정말 심각한 문제라는 생각이 들며, 이런 것들에 대해서도 AI를 활용해 제지할 방법은 없을까 고민하게 됩니다. 앞으로 온디바이스AI가 보편화되면 어떤 사진, 영상, 음성이 수신되었을 때 자동으로 ai에 의해 생성된 것인지 판별해주는 기능이 있으면, AI가 활용된 보이스피싱에 좀 덜 취약해지지 않을까 싶습니다.

#232: AI 딥페이크 기술 악용, 일반인 인플루언서도 대상

• 정부와 기업의 노력이 촉구됩니다.지난 3월 버전으로는 국무조정실이 주재하는 ‘불법 사금융 척결 범정부 TF’에서 대책을 논의하며, 국내외 플랫폼에 사칭 피해 유명인 31명을 특정해 광고 차단을 요청하는 긴급 공문을 발송했다고 합니다. 구글과 메타는 사칭광고에 속지 않도록 하는 캠페인을 4월에 진행한다고 하고요. 보이스피싱 의심 계좌처럼 리딩방 사기에 사용된 계좌는 지급 정지할 수 있게 통신사기피해환급법 개정, 방통위 내 직통으로 연결되는 신고센터 만들기, 유튜브 사전 필터링, 사후대응책 마련 등의 필요한 보완이 조속히 마련되었으면 합니다. 한국에서 사칭 행위로는 형사처벌이 안된다니 이것도 참 충격.