 |
| ▲ 이미지 출처: Pixabay/ Pexels |
알고리즘은 우리가 보는 뉴스에서 우리가 구매하는 제품에 이르기까지 모든 것을 통제하면서 우리 삶에서 점점 더 두드러진 역할을 한다. 전문가들은 그들이 증식함에 따라 그들이 우리에게 해를 끼치는 방식으로 공모하지 않도록 해야 한다고 말한다.
인류를 몰락시키는 악의적인 인공지능에 대한 두려움은 공상과학의 필수 요소이다. 그러나 상대적으로 멍청한 알고리즘이 특히 복잡한 관계 네트워크에 연동되어 있을 때 의도하지 않게 심각한 해를 끼칠 수 있는 단기적인 상황이 많이 있다.
경제 분야에서는 이미 높은 비율의 의사결정이 기계에 맡겨져 있으며, 우리가 주의하지 않으면 그것이 어디로 이어질 수 있는지에 대한 경고 신호가 있었다. 알고리즘 거래자들이 거의 1조 달러에 달하는 주식시장을 몇 분 만에 쓸어버리는 도움이 된 2010년“Flash Crash-주식시장의 심각한 폭락”는 교과서의 예이며, 시장의 취약성이 증가하고 있다는 이유로 자동화된 거래 소프트웨어의 광범위한 사용이 비난을 받아왔다.
그러나 알고리즘이 우리 경제 시스템을 훼손할 수 있는 또 다른 중요한 장소는 가격 책정이다. 경쟁 시장은 서구 사회를 뒷받침하는 자본주의 체제의 원활한 기능을 위해 필수적이다. 그래서 미국과 같은 국가들은 기업이 독점을 만들거나 인위적으로 가격을 부풀리는 카르텔을 만들기 위해 공모하는 것을 방지하는 엄격한 독점 금지법을 가지고 있다.
그러나 이러한 규정은 가격 결정이 항상 사람에게로 거슬러 올라갈 수 있는 시대를 위해 만들어졌다. 자체 적응형 가격 알고리즘이 점점 제품과 상품의 가치를 결정함에 따라 이러한 법률은 목적에 부적합 해 보이기 시작했다고 Science지의 논문 저자는 말한다.
동적 시장에서 알고리즘을 사용하여 가격을 빠르게 조정하는 것은 새로운 아이디어가 아니다. 항공사는 수십 년 동안 이를 사용해 왔지만 이전에는 이러한 알고리즘이 프로그래머가 하드 코딩한 규칙을 기반으로 작동했다.
오늘날 많은 시장, 특히 온라인시장을 뒷받침하는 가격 알고리즘은 대신 머신러닝에 의존한다. 수익 극대화와 같은 중요한 목표를 설정한 후, 그들은 종종 인간의 감독없이 시장 경험을 기반으로 자체 전략을 개발한다. 가장 진보된 것은 또한 인간이 내부를 들여다보고 싶어하더라도 작동이 불투명한 형태의 AI를 사용한다.
또한 온라인시장의 공개적 특성은 경쟁사의 가격이 실시간으로 제공된다는 것을 의미한다. Amazon 및 Walmart와 같은 주요 소매업체는 자동화된 소프트웨어를 사용하여 경쟁업체의 가격과 재고를 지속적으로 스누핑 하면서 끝없는 봇 전쟁에 참여하고 있다는 사실은 잘 알려져 있다.
이러한 요인들의 조합은 AI기반 가격 책정 알고리즘이 담합 가격 책정 전략을 채택할 수 있는 완벽한 단계를 설정한다고 저자들은 말한다. 자체 전략을 개발할 수 있는 자유가 주어진다면 서로의 가격에 실시간으로 액세스할 수 있는 여러 가격 알고리즘이 서로 협력하는 것이 수익을 극대화하는 가장 좋은 방법이라는 것을 빠르게 알 수 있다.
저자는 연구자들이 가격 알고리즘이 컴퓨터 시뮬레이션 시장에서 자발적으로 공모 전략을 개발할 것이라는 증거를 이미 발견했으며 최근 연구에 따르면 가격 알고리즘이 독일 소매 휘발유 시장에서 공모할 수 있다는 증거를 발견했다. 그리고 그것은 문제이다. 오늘날의 독점 금지법은 이런 종류의 행동을 기소하는 데 적합하지 않기 때문이다.
인간 간의 담합은 일반적으로 실제 시장 가치보다 가격을 높이는 전략에 합의하기 위해 서로 의사 소통하는 기업을 포함한다. 그런 다음 다른 카르텔 회원이 합의된 가격 전략을 약화시키려고 할 경우 가격 전쟁을 유발하는 보복 가격 책정의 위협도 포함하는 역동적인 시장에서 이 가격 인상을 유지하는 방법을 결정하는 규칙을 개발한다.
특정 가격 책정 전략 또는 가격이 공모의 결과인지 여부를 파악하는 것이 복잡하기 때문에 검찰은 대신 회사 간의 의사소통에 의존하여 죄책감을 느끼고 있다. 이는 알고리즘이 공모하기 위해 통신할 필요가 없기 때문에 문제가 되며 결과적으로 이러한 종류의 공모를 기소할 법적 메커니즘이 거의 없다.
이는 법학자, 컴퓨터 과학자, 경제학자, 정책 입안자들이 함께 모여 이러한 행동을 뒷받침하는 공모 규칙을 발견하고, 금지하고, 기소할 새로운 방법을 찾아야 한다는 것을 의미한다. 이에 대한 핵심은 가격 알고리즘을 감사하고 테스트하여 보복 가격 책정, 가격 매칭, 가격 하락에 대한 공격적 대응 등을 찾는 것이다.
담합 가격 책정 규칙이 밝혀지면 컴퓨터 과학자는 명확한 효율성 이점을 희생하지 않고 알고리즘이 알고리즘을 채택하지 못하도록 제한하는 방법을 찾아야한다. 또한 이러한 유형의 공모 행위를 배포하는 회사의 책임이 되는 것을 방지하고 알고리즘을 점검하지 않는 사람들에게는 엄격한 벌금을 부과하는 것도 도움이 될 수 있다.
하지만 한 가지 문제는 알고리즘이 인간이 결코 생각할 수 없는 전략을 발전시킬 수 있다는 것이다. 이로 인해 이러한 행동을 파악하기가 까다로울 수 있다. 이러한 종류의 증거를 조사할 수 있는 기술적 지식과 역량을 법원에 주입하는 것도 어려울 수 있지만 이러한 문제를 파악하는 것은 처음에는 생각할 수 있는 것보다 훨씬 더 시급한 과제이다.
반 경쟁적 가격 알고리즘이 혼란을 일으킬 수 있지만, 공동 AI가 군사 애플리케이션에서 의료 및 보험에 이르기까지 훨씬 더 교활한 영향을 미칠 수 있는 다른 분야가 많이 있다. 우리에 대한 AI계획을 예측하고 방지하는 능력을 개발하는 것은 앞으로 매우 중요하다.
