LLM의 아첨과 지나친 열정을 해결하기 위해 OpenAI는 모델을 더욱 회의적으로 조정하여 무언가가 나쁜 약물 표적인지 알려줄 가능성이 더 높다고 말합니다. GPT-Rosalind의 ‘추론’과 ‘전문가 수준’ 능력에 대해 많은 이야기가 있었습니다. 우리는 전자가 복잡한 다단계 프로세스를 통해 작업할 수 있는 것으로 정의된 반면, 후자는 소수의 벤치마크에 대한 모델 성능에서 파생되었다고 들었습니다.
OpenAI가 다양한 LLM을 괴롭혔던 환각 문제를 해결했는지 여부와 회사가 결론에 도달하기 위해 취한 단계를 시스템이 설명하라는 메시지가 표시될 때 공격을 받을 수도 있는지 여부는 불분명합니다. 과거의 경험을 고려할 때 AI가 발견한 예상치 못한 연결에 대한 빛나는 보고서와 명백히 잘못된 제안을 생성하는 사례가 혼합되어 있을 가능성이 높습니다.
그러나 현재 회사에서는 바이러스 감염성을 최적화하는 등의 작업을 요청하는 경우 모델이 유해한 출력을 생성할 가능성에 대한 우려로 인해 액세스를 제한하고 있습니다. 현재 OpenAI의 신뢰할 수 있는 액세스 배포 구조에는 미국 기반 기업만 지원할 수 있으며 회사에서는 이를 사용할 수 있는 사람을 제한할 예정입니다. 보다 제한된 생명 과학 연구 플러그인이 일반 공급될 예정입니다.
위에서 언급한 것처럼 다른 여러 회사에서도 과학에 초점을 맞춘 대리인 LLM을 제공했지만 이는 생물학에 특화된 GPT-Rosalind에 비해 훨씬 덜 집중적이었습니다. 이 새로운 모델의 효율성에 대한 보고를 듣기 전까지는 이러한 초점이 그 유용성을 향상시키는지 여부를 평가하기가 어렵습니다.
