blindTopic
검색
애플이 그동안 함구하고 있었을 뿐이지 얘넨 옛날부터 ai기반을 너무 잘 다져왔음.
삼성이 가우스 LLM(대형 언어 모델 ex, chatGPT) 개발했다고 언플하고 정작 갤럭시 S24에선 로컬로 LLM 아무것도 못 돌리는 동안 아이폰에선 이미 훨씬 전부터 LLM을 돌리는 앱 까지 나옴
메타에서 만든 LLaMA 2 를 스마트폰에서 로컬로 돌리는것임
이거말고 그냥 표준에만 맞는 모델이면 Phi-2, Cerebras, Orca 등 어지간한건 다 돌릴 수 있음
안드폰에서 느려 터지게 돌아가는거랑 다르게 제대로 GPU까지 가속함
애초에 애플이 온디바이스 인공지능 시대에 훨씬 대비가 잘 되어 있음
개발 툴체인이나 칩셋단에서 실제로 인공신경망을 제대로 가속하도록 기반이 착실히 다져진 상태라 AI 연구자들이 지금 핫한 LLM들을 아이폰에서 그대로 돌려볼 수 있는것임
저거 말고도 오픈AI Whisper 같은 고성능 음성인식 모델도 아이폰에선 매우 빠른 속도로 구동 가능하고 AppStore에 이미 앱들도 쏟아지는중
애플은 CoreML 프레임워크로 빠르게 가속되는 SDXL도 공개함
스테이블 디퓨전 같은 이미지 생성 모델을 아이폰에서 직접 구동하는 앱들도 출시된지 1년 넘음
삼성은 더이상 애플의 경쟁상대가 아님.
한국사람들만 경쟁상대로봄..ㅋㅋㅋ
베트남애들이 국뽕으로 지들이 한국 넘어섰다 언팔하는 느낌임
블라블라 추천 글
토픽 베스트
2차전지 라운지
댓글 12
새회사 · t*********
한국사람들도 다 알지 않아..? 비교안되는거.. 그래도 경쟁은 하는거지..시장에서 포션이 적더라도
NAVER · 꿹****
최고사양 램8GB로 뭔 AI
어차피 애플도 제대로 할 생각 없다
무거운모델은 메모리에 다 올리지도 못해서 제대로 되지도 않는 수준으로 경량화한 오픈소스들 실험적으로 그냥 돌려만 봤다 수준이잖어
필립모리스 · c**** 작성자
? 다른 기업들이 이제 와서 LLM을 하느니 SD를 하느니 어쩌고 있을때 애플은 이미 데스크탑에서나 돌리는 모델들을 그대로 돌릴 개발 환경을 착실히 다져놨고 서드파티 개발자, AI 연구자들이 너도나도 나서서 아이폰용 앱을 만드는 상황이라고 애플 자체적으로도 Ajax라는 LLM모델을 만드는 중이고 얼마전엔 오픈소스로 MLX라는 아이폰과 맥 칩의 통합 메모리 아키텍쳐를 십분 활용하는 프레임워크도 내놓음. 이미 넘파이보다 몇배나 빠르고 AI 연구자들 반응도 좋음 (인공신경망 구동은 대부분 행렬연산으로 이루어짐) + 애플실리콘
NAVER · 꿹****
아니 그래서 애플 고질적인 저용량 램이 AI시대에 와서 발목잡게 생겼는데 이건 어떻게 해결한데?
필립모리스 · c**** 작성자
내용 이해를 못한 거 같은데 너가 몰랐던 정보가 있으면 흡수하면 되고 없거나 무슨말인지 못알아듣겠으면 니 갈길 가면 된다
삼성전자 · l*********
퀄컴 스냅드래곤도 하드웨어 가속 모두 지원합니다. cpu, gpu, dsp 등등요
그냥 칩셋 성능이 지금 아이폰이 아무래도 좀 더 좋아서 그렇죠..
스테이블 디퓨전 정도의 모델은 퀄컵 칩에서도 잘 돌아갑니다.
구글 llm 제미나이 나노는 이미 온디바이스로 돌아갑니다.
램 제약은 매우 중요한 제약이 맞고요. 데스크탑에서 돌리는 모델을 어떻게 아이폰에서 돌린다는 건지.. 말씀하신 llama 2 모델은 70b의 경우 램이 130기가나 필요한데요;;
깊게는 잘 모르시는 것 같네요.
필립모리스 · c**** 작성자
예전부터 앱스토어에 Whisper로 영상, 음성 스피치 투 텍스트로 변환해주는 앱들이 나오고 있어요 저도 쓰고 있고요 그냥 이미 상품화 되었다는 말입니다.. SD도 그렇고요. 애플이 모바일 폰 중에서 가장 먼저 NPU를 2017년에 탑재했고 CoreML, Metal, Accelerate framework로 AI 개발환경 내실 다지는 동안 안드로이드 기업들은 언플밖에 안했습니다
스타트업 · i********
삼전이 모르는 거였군
삼성전자 · l*********
아이폰이 훨씬 먼저 잘한 건 맞죠. 근데 그거랑 별개로 틀린 내용이 있어서 지적했습니다