AI 분야의 여성: UC 버클리의 브랜디 노네케는 투자자들이 책임감 있는 AI 관행을 고집해야 한다고 말합니다.
뛰어난 여성 학자 등 인공지능 분야에 크게 기여한 인물들에 대한 인식 부족을 바로잡기 위해, 저희는 인공지능 운동의 발전에 중추적인 역할을 한 영향력 있는 여성들을 소개하는 인터뷰 시리즈를 시작합니다. 이러한 노력은 AI 산업이 더욱 성장함에 따라 연중 계속될 것이며, 종종 간과되는 획기적인 업적을 조명할 것입니다. 자세한 내용은 여기에서 주요 프로필 모음을 참조하시기 바랍니다.
브랜디 노네케는 UC 버클리에 위치한 CITRIS 정책 연구소의 설립자로서 규제 조치가 혁신 육성에 미치는 영향을 탐구하는 학제 간 연구를 주도하고 있습니다. 또한 버클리 법과 기술 센터의 공동 책임자로서 인공지능, 플랫폼 개발 및 사회적 영향에 관한 연구를 감독하고 있습니다. 또한, 그녀는 학자들이 인공지능 기술의 적용에 관한 효과적인 정책과 가이드라인을 수립하는 데 필요한 기술을 갖추도록 하는 데 초점을 맞춘 이니셔티브인 UC 버클리 인공지능 정책 허브의 책임자입니다.
여가 시간에는 진화하는 기술 정책, 규제 프레임워크, 법적 규범을 탐구하는 멀티미디어 프로젝트인 TecHype를 주도하고 있습니다. 이 플랫폼을 통해 그녀는 이러한 발전과 관련된 장단점을 심도 있게 검토하는 한편, 기술의 잠재력을 사회 발전을 위해 활용할 수 있는 효과적인 접근법을 제안합니다.
Q&A
인공지능에 관심을 갖게 된 계기와 이 분야에서 커리어를 쌓게 된 계기를 구체적으로 물어봐도 될까요?
거의 10년 동안 저는 책임감 있는 인공지능 관리 분야에 전념해 왔습니다. 기술, 공공 정책, 사회적 영향에 대한 저의 교육적 배경이 이 분야에 참여하게 된 계기가 되었습니다. 인공지능은 긍정적인 영향과 부정적인 결과를 모두 나타내며 우리 존재의 모든 것을 포괄하는 존재로 자리 잡았습니다. 저는 이 기술의 영향력을 수동적으로 받아들이는 대신 이 기술을 선한 방향으로 이끄는 데 적극적으로 참여하고 싶다는 열망에 동기를 부여받았습니다.
인공 지능 영역에서 저는 [특정 분야/프로젝트]에 기여한 것에 큰 자부심을 가지고 있습니다. 이 프로젝트는 인공지능 분야에 대한 이해와 역량을 발전시키는 데 중요한 이정표가 될 것입니다.
저는 두 가지 성과를 달성하게 되어 매우 기쁘게 생각합니다.우선, 캘리포니아 대학교는 인공지능에 대한 윤리적 가이드라인을 제안하고 인공지능의 신중한 획득과 사용을 보장하기 위한 관리 체계를 마련한 최초의 기관으로 두각을 나타내고 있습니다. 책임감 있게 사회에 봉사하겠다는 우리의 헌신은 우리가 높이 평가하는 부분입니다. 실제로 저는 대통령 직속 AI 워킹그룹을 공동으로 이끌었고, 이후 지속적인 AI 위원회를 주재하는 영광을 누렸습니다. 이 역할을 통해 저는 교수진, 직원, 학생, 그리고 우리가 서비스를 제공하는 더 넓은 커뮤니티를 보호하기 위해 윤리적 AI 원칙을 효과적으로 구현하는 방법을 고민하는 귀중한 실무 경험을 쌓았습니다. 또한, 일반 대중이
널리 남성적인 기술 영역에 내재된 수많은 장애물을 어떻게 효과적으로 협상할 수 있으며, 이는 이후 인공 지능 영역으로 확장될 수 있는지를 이해하는 것이 중요하다고 생각합니다.
호기심과 인내심을 품되, 사기꾼의 감정에 영향을 받지 않는 자세를 유지하세요. 다양성을 옹호하고 포용적인 환경을 조성하는 멘토를 발굴하고, 업계에 진입하는 사람들에게 그러한 지침을 적극적으로 제공하는 것이 중요합니다. 다양성과 포용성을 갖춘 기술 커뮤니티를 만들어 동료들과 인사이트, 팁, 동기부여를 교환할 수 있는 수단이 될 수 있습니다.
AI 분야 진출을 고려할 때 여성이 따라야 할 가장 유익한 지침은 무엇인가요?
급성장하는 인공지능 분야에서 자신의 입지를 다지기 위해서는 빠르게 발전하는 이 분야의 특성을 고려할 때 여성은 불굴의 의지로 지식을 추구하는 것이 필수적입니다. 또한, 새로운 가능성의 통로 역할을 할 수 있는 탄탄한 인맥을 구축하여 그 여정에서 없어서는 안 될 격려를 아끼지 말아야 합니다. 마지막으로, 이들은 지배적인 정서의 불협화음 속에서 자신의 목소리가 침묵되지 않도록 자신과 동료 지망생 모두를 옹호해야 합니다. 각자가 가지고 있는 고유한 통찰력과 삶의 이야기가 포용성과 공정성의 환경을 조성하여 AI의 집단적 발전에 크게 기여한다는 점을 인식해야 합니다.
인공 지능이 계속 발전함에 따라 관심과 혁신적인 솔루션이 필요한 몇 가지 중요한 과제가 발생하고 있습니다.인공지능 시스템의 윤리적 의사결정 프로세스 보장, 알고리즘 내 잠재적 편견과 차별 문제 해결, 데이터 프라이버시 및 보안 보호, 자동화로 인한 일자리 대체 위험 완화, 머신러닝 모델의 투명성과 해석 가능성 증진, 최적의 문제 해결을 위한 인간과 기계 간의 협업 강화, 성능 안정성을 유지하면서 복잡한 실제 시나리오에 적응할 수 있는 강력한 인공지능 시스템 개발 등이 이러한 중요한 관심사 중 일부에 포함됩니다.
인공지능의 영역이 계속 발전함에 따라, 현재의 트렌드와 유행에 집착하지 않는 것이 해결해야 할 중요한 과제입니다. 이러한 정서는 특히 상당한 진보를 의미하며 긍정적인 면과 부정적인 면 모두에서 상당한 파급력을 약속하는 제너레이티브 AI의 등장에 특히 해당됩니다. 그러나 이러한 첨단 알고리즘이 보여주는 새로운 업적에만 집중하기보다는 다른 형태의 머신러닝이 개인의 자유에 은밀하게 영향력을 행사하는 사례에도 주의를 기울일 필요가 있습니다. 궁극적으로 머신 러닝의 기술적 능력에 관계없이 머신 러닝의 적용을 이해하는 데 초점을 맞추어 이러한 적용으로 인해 발생할 수 있는 잠재적 결과를 신중하게 고려하고 평가하는 것이 가장 중요합니다.
인공 지능을 활용하는 개인이 주의해야 할 우려 사항이나 고려 사항이 있나요?
인공지능을 활용하는 개인은 데이터 보호 및 사이버 보안을 둘러싼 영향과 인공지능 프레임워크 내에서 편향된 의사결정을 내릴 수 있는 역량에 대해 포괄적으로 이해해야 합니다. 또한 이러한 시스템의 기능과 선택 과정에 대한 명확성의 중요성을 인식하여 사용자가 보다 책임감 있고 공정한 인공지능 구현을 지지할 수 있도록 하는 것이 중요합니다.
책임감 있는 방식으로 인공지능을 개발하기 위한 한 가지 잠재적 접근 방식은 윤리적, 사회적 영향을 신중하게 고려하고, 강력한 안전 조치를 시행하며, 투명성과 책임성을 증진하고, 이해관계자 간의 협력을 장려하고, 인공지능 시스템이 사회에 미치는 영향을 지속적으로 모니터링하고 평가하는 것일 수 있습니다.
인공지능의 책임 있는 개발과 구현을 위해서는 인공지능의 개발과 사용의 모든 단계에 걸쳐 윤리적 원칙을 통합해야 합니다. 여기에는 다양한 이해관계자와의 협력, 명확한 방법론적 프로세스, 편견에 대한 완화 계획, 결과에 대한 지속적인 평가가 포함됩니다.인공지능이 인권 존중, 형평성, 포용성과 같은 가치에 기반하여 설계되고 일반 복지에 우선순위를 두는 것이 핵심이 되어야 합니다.
자본과 같은 자원을 배분하는 개인이 윤리적이고 책임감 있는 인공지능 개발 및 배포를 효과적으로 옹호할 수 있는 방법은 무엇인가요?
이 질문의 중요성은 아무리 강조해도 지나치지 않습니다. 역사적으로 투자자의 역할은 명확하게 규정되어 있지 않았습니다. “규제가 혁신을 저해한다"는 개념은 종종 반복되지만 대부분 근거가 없습니다. 반대로, 소규모 기업은 윤리적 AI 가이드라인과 학계의 의견을 발전시켜 온 기존 AI 대기업으로부터 학습함으로써 ‘후발주자’로서 경쟁력을 확보할 수 있습니다. 투자자는 책임감 있는 AI 원칙을 투자 기준에 통합하여 해당 분야의 궤적을 결정할 수 있는 권한을 가지고 있습니다. 이러한 원칙에는 AI를 통해 사회적 문제를 해결하기 위한 프로젝트 촉진, AI 인력 내 포용성 증진, 강력한 거버넌스 및 기술 프로토콜 옹호 등이 포함되며