Llama 모델 사용

Llama는 Vertex AI에서 미세 조정하고 배포할 수 있는 Meta에서 개발한 개방형 모델 모음입니다. Llama는 어시스턴트와 유사한 채팅을 위해 선행 학습되고 요청 사항이 조정되는 생성형 텍스트 모델을 제공합니다. Vertex AI에 Llama 3.1, Llama 3, Llama 2 모델을 배포할 수 있습니다.

Llama 3.1

다국어 대규모 언어 모델(LLM)의 Llama 3.1 모음은 8B, 70B, 405B 크기(텍스트 입력/텍스트 출력)로 선행 학습되고 요청 사항이 조정되는 생성형 모델 모음입니다. Llama 3.1 요청 사항 조정 텍스트 전용 모델(8B, 70B, 405B)은 다국어 대화 사용 사례에 최적화되어 있으며 일반적인 업계 벤치마크에서 사용 가능한 여러 오픈소스 및 비공개 채팅 모델보다 성능이 우수합니다.

자세한 내용은 Model Garden의 Llama 3.1 모델 카드를 참조하세요.

Llama 3

Llama 3 요청 사항 조정 모델은 대화 사용 사례에 최적화된 LLM 모음입니다. Llama 3 모델은 일반적인 업계 벤치마크에서 사용 가능한 여러 오픈소스 채팅 모델보다 성능이 우수합니다.

자세한 내용은 Model Garden의 Llama 3 모델 카드를 참조하세요.

Llama 2

Llama 2 LLM은 선행 학습되고 미세 조정된 생성형 텍스트 모델 모음으로서 파라미터 크기가 70억~700억 개에 이릅니다.

자세한 내용은 Model Garden의 Llama 2 모델 카드를 참조하세요.

Code Llama

Meta의 Code Llama 모델은 코드 합성, 이해, 요청 사항을 위해 설계되었습니다.

자세한 내용은 Model Garden의 Code Llama 모델 카드를 참조하세요.

Llama Guard 3

Llama Guard 3은 Llama Guard 2의 기능을 기반으로 명예 훼손, 선거, 코드 인터프리터 악용이라는 세 가지 새로운 카테고리를 추가합니다. 또한 이 모델은 다국어를 지원하며 Llama 3 이상의 요청 사항 모델과 일치하는 프롬프트 형식을 사용합니다.

자세한 내용은 Model Garden의 Llama Guard 모델 카드를 참조하세요.

리소스

Model Garden에 대한 자세한 내용은 Model Garden의 AI 모델 살펴보기를 참조하세요.