즉, 결과는 또한 현재 AI 모델로 작업하는 데 한계가 있음을 보여줍니다. 그 이유는 인간과 달리 결정을 내리는 프로세스를 실제로 설명할 수 없기 때문입니다. 예를 들어, 일부 모델은 서로 매우 다른 제안을 했는데, 이는 연구자들이 가능한 시퀀스 공간의 서로 다른 영역을 탐색하고 있음을 의미한다고 말합니다. 그러나 우리는 그것이 사실인지, 각 모델이 다른 모델의 제안을 싫어하는 수학적 이유가 있는지 실제로 알지 못합니다.
이는 연구자들이 출력을 기반으로 모델이 수행하는 작업에 대해 거꾸로 추론하려고 시도한 논문의 여러 사례 중 하나입니다. 적어도 한 번은 소프트웨어가 변경된 이소류신이 위치한 전체 구조 요소(알파 나선)를 재설계했는데, 그 이유는 추측조차 할 수 없기 때문입니다.
현재 이러한 소프트웨어 패키지는 도구라는 점을 상기시켜주는 좋은 방법입니다. 패키지를 사용하면 다른 방법으로는 불가능했던 일을 할 수 있지만 실제로는 우리가 그 모든 것을 이해하는 데 그다지 도움이 되지 않습니다. 우리는 여전히 두개골 내부의 신경망을 사용하여 현상을 추론해야 합니다.
반드시 그럴 필요는 없습니다. 의사결정 프로세스에 대한 통찰력을 얻기 위해 소프트웨어를 개발할 때 이 소프트웨어의 내부 작동 방식을 노출하는 데 더 중점을 둘 수 있습니다. 하지만 지금으로서는 효과가 있는 것을 얻는 것이 (상당히 합리적으로) 강조되어 왔다고 생각합니다.
놀라운 성과지만 유용할까요?
전반적으로 이것은 놀라운 작업입니다. 이들 단백질은 서로 상호작용하고, 리보솜 RNA, 전달 RNA, 메신저 RNA, 리보솜이 만드는 성장 단백질, 그리고 큰 하위 단위에 있는 모든 일반 단백질과 상호작용해야 합니다. 이들 각각은 서로 협력할 수 있는 능력을 발전시키는 데 수십억 년이 걸렸습니다. 우리가 몇 년에 걸쳐 시스템에 이렇게 급진적인 변화를 이룰 수 있다는 사실은 정말 놀랍습니다.
이 주제에 대해 더 알고 싶다면 아래를 참고하세요
