엔비디아 얘네는 진짜 작정한 것 같음. 이번에 나온 RTX Spark 직접 돌려보니까
기존에 쓰던 챗GPT 같은 클라우드 기반 애들이랑은 확실히 느낌이 다름. 로컬에서 내 글카
자원 써서 돌아가는 거라 그런지 반응 속도가 진짜 장난 아님.
내 컴퓨터에 있는 RTX 그래픽카드 성능을 그대로 다 뽑아 쓰는 거라 속도 체감이 확 옴.
무엇보다 보안 걱정 없이 내 개인 파일들 다 집어넣고 학습시켜서 물어보는 맛이 쏠쏠함.
굳이 클라우드 서버 안 거치고 내 컴 안에서 다 해결되니까 정보 유출 걱정되는 사람들에겐
최고인 듯함.
사실 처음에는 그냥 기술 과시용 툴인가 싶었는데 직접 만져보니까 완성도가 생각보다 훨씬
높음. 물론 아직 최적화 부분에서 좀 더 다듬어야 할 점이 보이긴 하지만 이 정도면 충분히
실사용 가능한 수준임. 특히 PDF 파일 수십 개 던져주고 내용 요약해달라고 할 때 속도
보면 소름 돋음.
글카 비싸게 주고 사서 게임만 하기 아까웠던 사람들한테는 최고의 장난감이 될 것 같음.
30시리즈나 40시리즈 쓰는 사람들은 무조건 깔아서 한 번쯤은 돌려봐야 한다고 봄.
VRAM 용량이 좀 넉넉해야 쾌적하게 돌아가는 것 같긴 한데 그래도 이 정도면 진짜
만족스러움.
앞으로 이런 식으로 로컬 AI가 대세가 될 것 같은데 엔비디아가 시장 선점 제대로 하려는
모양새임. 이제 인터넷 연결 안 되어 있어도 나만의 비서가 컴퓨터 안에 상주하는 거나
마찬가지라 세상 참 좋아졌다는 생각만 듦.
솔직히 아직은 텍스트 위주라 좀 심심한 감이 있긴 한데 나중에 이미지나 영상 쪽까지 기능
확장되면 진짜 무서울 것 같음. 황회장이 왜 그렇게 AI 강조했는지 써보니까 바로 납득이
감. 글카 가격 계속 오르는 건 킹받지만 이런 기능들 계속 내주면 또 지갑 열게 될 것
같아서 무서움.
나중에 업데이트 더 되면 어떨지 진짜 기대됨. 지금 당장도 충분히 쓸만한데 발전 속도 보면
내년쯤에는 진짜 필수 프로그램으로 자리 잡을지도 모르겠음. 다들 고민하지 말고 일단
찍먹이라도 해보는 거 추천함.
기존에 쓰던 챗GPT 같은 클라우드 기반 애들이랑은 확실히 느낌이 다름. 로컬에서 내 글카
자원 써서 돌아가는 거라 그런지 반응 속도가 진짜 장난 아님.
내 컴퓨터에 있는 RTX 그래픽카드 성능을 그대로 다 뽑아 쓰는 거라 속도 체감이 확 옴.
무엇보다 보안 걱정 없이 내 개인 파일들 다 집어넣고 학습시켜서 물어보는 맛이 쏠쏠함.
굳이 클라우드 서버 안 거치고 내 컴 안에서 다 해결되니까 정보 유출 걱정되는 사람들에겐
최고인 듯함.
사실 처음에는 그냥 기술 과시용 툴인가 싶었는데 직접 만져보니까 완성도가 생각보다 훨씬
높음. 물론 아직 최적화 부분에서 좀 더 다듬어야 할 점이 보이긴 하지만 이 정도면 충분히
실사용 가능한 수준임. 특히 PDF 파일 수십 개 던져주고 내용 요약해달라고 할 때 속도
보면 소름 돋음.
글카 비싸게 주고 사서 게임만 하기 아까웠던 사람들한테는 최고의 장난감이 될 것 같음.
30시리즈나 40시리즈 쓰는 사람들은 무조건 깔아서 한 번쯤은 돌려봐야 한다고 봄.
VRAM 용량이 좀 넉넉해야 쾌적하게 돌아가는 것 같긴 한데 그래도 이 정도면 진짜
만족스러움.
앞으로 이런 식으로 로컬 AI가 대세가 될 것 같은데 엔비디아가 시장 선점 제대로 하려는
모양새임. 이제 인터넷 연결 안 되어 있어도 나만의 비서가 컴퓨터 안에 상주하는 거나
마찬가지라 세상 참 좋아졌다는 생각만 듦.
솔직히 아직은 텍스트 위주라 좀 심심한 감이 있긴 한데 나중에 이미지나 영상 쪽까지 기능
확장되면 진짜 무서울 것 같음. 황회장이 왜 그렇게 AI 강조했는지 써보니까 바로 납득이
감. 글카 가격 계속 오르는 건 킹받지만 이런 기능들 계속 내주면 또 지갑 열게 될 것
같아서 무서움.
나중에 업데이트 더 되면 어떨지 진짜 기대됨. 지금 당장도 충분히 쓸만한데 발전 속도 보면
내년쯤에는 진짜 필수 프로그램으로 자리 잡을지도 모르겠음. 다들 고민하지 말고 일단
찍먹이라도 해보는 거 추천함.
