글

라벨이 뉴로모픽칩인 게시물 표시

[Where] 어디서 토사 붕괴는 징후 없이 터지나

이미지
  어디서 토사 붕괴는 징후 없이 터지나 ▶ 유튜브 채널 구독하기 흙벽은 경고 없이 무너진다고들 합니다. 정말 그럴까요? 징후는 대개 엉뚱한 곳에 있습니다. 흙 1세제곱야드는 약 1.4톤입니다. 가장자리 흙더미가 벽을 밀어냅니다. 비 온 뒤 벽은 무게가 늘고 힘이 약해집니다. 얕은 구덩이도 안전하지 않습니다. 균열은 벽이 아니라 땅 위에 생깁니다. 흙은 왜 한순간에 무너질까 흙은 알갱이와 물, 공기가 섞인 덩어리입니다. 땅속에서는 주변 흙이 사방에서 서로를 붙잡아 줍니다. 구덩이를 파면 한쪽 면의 지지가 사라집니다. 이제 옆벽은 자기 무게를 혼자 버텨야 합니다. 한계에 닿은 벽은 천천히 기울지 않습니다. 덩어리째 미끄러지듯 한 번에 내려앉습니다. 미국 산업안전보건청(OSHA)은 흙 1세제곱야드가 소형차 한 대 무게인 약 3,000파운드라고 설명합니다. 3번째 장소, 구덩이 가장자리 파낸 흙을 바로 옆에 쌓는 일은 흔합니다. 그런데 그 흙더미는 벽 위에서 누르는 추가 무게가 됩니다. 장비와 자재, 지나가는 차량도 마찬가지입니다. 진동은 흙 알갱이 사이의 맞물림을 흔들어 놓습니다. 그래서 OSHA는 흙더미와 자재를 가장자리에서 최소 2피트(약 0.6m) 떨어뜨리라고 안내합니다. 무게는 벽 안쪽이 아니라 벽 위에서 시작됩니다. 2번째 장소, 비 온 뒤의 벽 빗물은 흙의 무게를 늘립니다. 동시에 알갱이 사이의 마찰을 줄여 버팀 힘을 떨어뜨립니다. 마른 흙도 위험합니다. 수분이 빠지면 흙을 붙잡던 힘이 사라져 표면이 부스러집니다. 그래서 점검은 매 작업 시작 전, 그리고 비가 온 뒤 에 다시 해야 합니다. 벽면에서 물이 스며 나오는지 확인 바닥에 물이 고였는지 확인 벽 표면이 떨어져 내리는지 확인 1번째 장소, 얕은 구덩이 가장 의외의 장소는 허리 높이의 얕은 구덩이입니다. 금방 끝나는 작업이라 보호 조치를 건너뛰기 쉽습니다. 하지만 몸을 숙이고 있으면 얕은 흙도 가슴과 머리까지 덮을 수 있습니다. 깊이가 낮다고 무게가 줄지는 않습니다. 국내 굴착공사 표준안전...

[How] 어떻게 뉴로칩이 LLM 벽을 넘나

이미지
  어떻게 뉴로칩이 LLM 벽을 넘나 대형언어모델의 한계는 단순히 모델이 더 똑똑해질 수 있느냐의 문제가 아니다. 진짜 벽은 물리적 한계 다. 토큰을 처리할수록 전력은 늘고, 메모리는 바빠지고, 열은 쌓인다. 그래서 AI 인프라의 다음 질문은 “더 큰 모델인가”가 아니라 “더 적은 에너지로 어떻게 계산할 것인가”가 된다. 1. 왜 LLM은 뜨거워지는가 LLM은 거대한 행렬 연산과 메모리 이동을 반복한다. 특히 추론 단계에서는 사용자가 질문할 때마다 토큰을 만들고, 이전 문맥을 다시 참고한다. 문제는 계산보다 데이터 이동 이 더 비싼 순간이 많다는 점이다. 칩 안팎으로 값을 옮기는 동안 전력과 시간이 녹는다. 전력: 토큰 요청이 늘수록 서버 비용 증가 열: 고밀도 칩은 냉각 비용을 키움 메모리: 대형 모델은 대역폭을 압박 지연시간: 실시간 서비스는 빠른 응답을 요구 2. 뉴로모픽 칩은 무엇이 다른가 뉴로모픽 칩 은 뇌의 작동 방식에서 힌트를 얻은 반도체다. 모든 회로가 매 순간 같은 속도로 도는 대신, 필요한 신호가 생길 때만 반응하는 이벤트 기반 방식을 지향한다. 스파이킹 신경망, 로컬 메모리, 비동기 회로, 희소 신호가 핵심 키워드다. 기존 AI 가속기 뉴로모픽 접근         밀집 행렬 연산 중심         이벤트와 희소 신호 중심         메모리 이동 비용 큼         연산 근처에 상태 저장         클록 기반 동작         필요할 때만 발화 Old Rule: 모든 토큰을 빽빽하게 계산한다. New Rule: 필요한 신호만 움직이게 만든다. 3. LLM에 바로 붙일 수 있나 여기서 찬물을 끼얹자. 뉴로모픽 칩은 현...

[How] 뉴로모픽 칩은 어떻게 AI 전력을 줄이나

이미지
  [How] 뉴로모픽 칩은 어떻게 AI 전력을 줄이나 AI가 커질수록 문제는 똑똑함만이 아니다. 전기도 먹고, 열도 내고, 냉각비도 부른다. 뉴로모픽 칩은 이 병목을 다른 방식으로 보려는 시도다. 핵심은 뉴로모픽 컴퓨팅 이 사람의 뇌처럼 모든 회로를 계속 켜두지 않고 필요한 신호에 반응한다는 점이다. 뉴로모픽의 질문은 “더 세게 계산할까”가 아니라 “굳이 계산하지 않아도 되는 순간을 얼마나 줄일까”다. 1. AI 전력은 왜 병목이 되었나 대형 AI 모델은 많은 연산과 메모리 접근을 요구한다. 특히 데이터센터에서는 전력, 냉각, 공간이 비용이 된다. 그래서 AI 경쟁은 모델 크기만의 싸움이 아니라 전력 효율의 싸움이 되고 있다. 연산량 증가 메모리 접근 증가 냉각과 전력 인프라 부담 2. 어떻게 뇌처럼 계산하나 뉴로모픽 칩은 이벤트 기반 계산을 지향한다. 입력 변화가 있을 때만 신호가 발생하고, 그 신호가 필요한 경로로 전달된다. 이는 항상 모든 행렬을 빽빽하게 계산하는 방식과 다르다. 구분 일반 AI 칩 뉴로모픽 접근 계산 방식 대량 병렬 연산 이벤트 발생 시 연산 데이터 특성 밀집 데이터에 강함 희소 신호에 유리 가능 활용 후보 학습과 대형 추론 센서, 엣지, 실시간 반응 체크 질문 1 이 작업은 계속 계산해야 하는가, 아니면 변화가 생길 때만 반응하면 되는가? 3. 데이터 이동을 어떻게 줄이나 AI 전력의 상당 부분은 연산 자체보다 데이터 이동 에서 발생할 수 있다. 뉴로모픽 구조는 메모리와 연산을 더 가깝게 묶고, 필요한 신호만 처리해 낭비를 줄이려 한다. 절감 포인트 의미 주의점 희소 연산      ...

이 블로그의 인기 게시물