갤러리 이슈박스, 최근방문 갤러리
연관 갤러리
나는 솔로 갤러리 타 갤러리(0)
이 갤러리가 연관 갤러리로 추가한 갤러리
추가한 갤러리가 없습니다.
0/0
타 갤러리 나는 솔로 갤러리(0)
이 갤러리를 연관 갤러리로 추가한 갤러리
0/0
개념글 리스트
1/3
- 한국여행중인 외국인들에게 물어본 서울vs 부산 도갤러
- 싱글벙글 주호민 아들 학대 혐의 무죄 !! 표절왕아이유
- 판) 여친을 산속에 두고간 남자친구 이해되시나요? ㅇㅇ
- 겨우 돌려받은 관세음보살좌상 근황 (+ 일본) ㅇㅇ
- 오늘의 이정후.webp 푸이그
- 부산 여행 오자마자 억까 당하는 일본인 여성.jpg ㅇㅇ
- 싱글벙글 산에서 보물 상자를 발견한 체코 등산객들이 받은 금액 수인갤러리
- 싱글벙글 성심당이 하고 있는 의외의 일 니지카엘
- ~ 아무도 관심 없을 시마네현 여행기 [上] ~ 일본려횡
- "넌 미치도록 완벽, 난 최악"…짝사랑 여고생 살해한 외모 콤플렉스男 감돌
- [금주의 신상] 5월 2주차 신제품 먹거리 모음.jpg dd
- 한문철 또 또 레전드 ㅋㅋ 자전거 도로에 갑툭튀한 아줌마 ㅇㅇ
- 싱글벙글 아직도 연금처럼 들어온다는 정기고 썸 ㅇㅇ
- [제보완] 백종원과 예산상설시장, 그리고 상표권 출원 감사원게이
- '손자 사망' 급발진 사고 운전자 패소 ㅇㅇ
싱글벙글 고래싸움에 개쌉이득만 보는 ㅅㄲ들
"2030 여성" 참고로 마지막 영상은 금융권, 공무원에 성소수자 할당 30% 한다그래서 논란이 됐는데 알고보니까 사회적 약자 (여성) 할당 30% 하겠다는걸 성소수자로 잘못 말한거였음 ㅋㅋㅋㅋㅋㅋㅋㅋ 여성 기관에 2030여성을 위한 특별 부서를 설립한다는 이유도 "이제 집토끼가 아닌" 2030여성을 위한 정책이다 라고 설명하는데, 제일 할짓없이 쳐 놀면서 시위나 쳐 나가는 새끼들이 2030여성인데 목소리 크다고 야당이고 여당이고 이새끼들 말에만 귀 기울이는게 제일 어이없음 ㅋㅋㅋㅋㅋㅋㅋㅋ - dc official App
작성자 : ㅇㅇ고정닉
스포)요코하마 양일 후기
집이 대구인데 나리타까지 왕복항공료가 너무 비싸서 고속버스타고 김해공항에서 나리타로 감. 나리타에 도착해서 미리 예약해둔 NEX타고 요코하마로 감 외국인은 나리타에서 요코하마까지 왕복 5000엔이면 됨 1시간 30분 달려서 요코하마에 도착함ㅋㅋ 아메온나 이슈가 있었지만 오후에는 비가 안와서 다행이었다. 호텔에 짐풀고 바로 K아레나 도착. 콘서트 분위기 물씬나면서 좋더라. 갤에서 어떤 고닉이 태양의탑 입장권 나눔해준다길래 줄 잘서서 K아레나 도착하자마자 받음ㅋㅋ 일본 전용폰에 고이 끼워넣음. 고맙다. 묭부이~ 1일차는 정리권이 없었지만 모자굿즈 쓰고다니는 사람들보니까 나한테는 안어울릴것 같아서 모자 제외하고 사려고 했던 굿즈 첫날에 다 샀음. 2일차 정리권은 첫타임 120번대였는데 걍 포기함ㅋㅋ 그리고 드디어 1일차 입성!!!! 규모보고 진짜 놀랐다. 첫날은 3레벨 사이드였는데.. 나름 재미있게 즐겼다. 나도 딸피지만 좌우로 니혼 딸피행님들 있어서 마켓오 브라우니 초코랑 말차랑 좀 나눠줬는데 좋아하더라. 한국에서 왔다니까 스고이~ 연발함ㅋㅋ 사실 아이묭이 노래 잘부르는건 다들 알고 있을테니까 노래나 셋리에 대한 내용은 패스~ 음향이랑 조명같은 무대연출이 그냥 넘사더라... 그런곳에서 고음질로 묭 라이브 들으니까.. 진짜 행복했음. 내가 좋아하는 노래 부를 때마다 머리부터 발끝까지 도파민 돌더라ㅜ 공연 끝나니까 급 허기져서 배채우러감. 이거 혼자서 다 먹음. 이거 다 먹고 편의점 털어와서 숙소에서 또 2차로 먹음. 첫날 편의점털이 사진은 좀 째렸었는지 안 찍었네 그리고 2일차.... 2일차 정리권은 포기했으므로 늦잠자고 일어나서 요시무라야 라는 유명한 라멘집에 오픈 40분 전에 갔는데 줄이 100미터임 시부엉ㅋㅋ 땡볕에서 90분 웨이팅했다. 내 앞에 앞에 베이지쓴 사람 일본 묭부이길래.. 묭구키링이랑 에이무뱃지 나눔해줬는데 엄청 좋아함ㅋㅋ 소중히 쓰겠다더라ㅎㅎ 자기 한국공연 토욜날 보러갔었다면서... 가방에서 묭굴티랑 보라후드랑 때타올 꺼내서 자랑함ㅋㅋㅋㅋ 일본묭부이랑 얘기하다보니 시간 빨리가서 기다렸던 라면 다 조지고.. 우리 복똘이 줄 토미카사려고 요도바시 카메라 갔는데... 거의 집에 있는거라서 고르기 힘들었다ㅎ 그리고 2일차 K아레나 가는길... 도키도키스루.. 그리고 공연장에 도착해서 구석탱이에 휴대용의자 꺼내서 앉아있는데.... 한국인으로 추정되는 핵인싸 묭부이 2인조가 내 앞에 모여있는 니혼진 묭부이타치에게 접근해서 같이 사진찍자고 하더라. 그 장면을 구경하고 있었는데.. 내 미도리노 때타올을 본 탓인지 갑자기 내 뒷덜미잡고 사진 찍는데 합류시킴;;; 내가 초록 때 타올임ㅋㅋ 사진찍고 후다닥 2일차 입성함ㅋㅋ 2일차 자리임. 1레벨로 승진했으나 또 사이드였음ㅋㅋ 오늘은 내 왼쪽에 60대 니혼묭주머니, 오른쪽에 30대 니혼묭부이 앉음. 오른쪽 니혼 묭부이가 때타올 보더니 먼저 말걸길래 진짜 대화 많이함ㅋㅋㅋ 자기는 니가타에서 온 유부남이고 시청에 근무한다고함. 나이는 서른살. 와이프는 아이묭 안좋아하고 트와이스 좋아한다면서 한국에 무지무지 가고싶어 한다고했음. 지금까지 라이브 7번째라더라... 난 8번째라고 어깨에 힘 좀 줬다. 자기 부서에 한국인 여자도 같이 일한다면서.... 자기도 한국말 배워보려다가 시작했다가 어려워서 포기했다고함. 와이프랑 나눠먹으라고 마켓오 브라우니 넉넉히 챙겨줬는데 엄청 고마워하더라. 자기는 아무리 가방을 뒤져봐도 줄게 없다면서ㅋㅋ 그래서 더 부끄럽게 만들려고 아이묭뱃지랑 묭구키링 나눔해줬는데 거의 울더라ㅋㅋ 2일차도 다들 알테니까 셋리나 노래실력에 대한 후기는 패스~ 표백 부를 때는 양일 다 묭묭우럭서ㅜ 공연 끝나고 돌아가는길에 찍어봄 숙소근처에서 라멘이랑 나마비루 조짐2차로 로손 털이함. 이제 후기 다 썼으니까 샤워하고올게~~ 딱히 스포는 없을 것 같은데 혹시몰라서 스포달았다 - dc official App
작성자 : 복똘애비고정닉
(사카나AI) 연속 사고 기계(CTM) 소개
연속 사고 기계(Continuous Thought Machines) 소개
2025년 5월 12일
Sakana AI에서는 인지의 핵심에 있는 중요한 특징, 바로 시간에 대해 재고하기로 했습니다. 연속 사고 기계는 뉴런 역동성 간의 동기화를 사용하여 작업을 해결하는 새로운 종류의 인공 신경망입니다.
요약
Sakana AI는 생물학적 신경망에서 영감을 받아 뉴런 활동의 동기화를 핵심 추론 메커니즘으로 독특하게 활용하는 AI 모델인 연속 사고 기계(CTM)를 자랑스럽게 발표합니다. 기존의 인공 신경망과 달리, CTM은 뉴런 수준에서 타이밍 정보를 사용하여 더 복잡한 신경 행동과 의사결정 프로세스를 가능하게 합니다. 이러한 혁신으로 모델이 문제를 단계별로 "사고"할 수 있으며, 추론 과정을 해석 가능하고 인간과 유사하게 만듭니다. 우리의 연구는 다양한 작업에서 문제 해결 능력과 효율성이 모두 향상됨을 보여줍니다. CTM은 인공 신경망과 생물학적 신경망 간의 간극을 메우는 의미 있는 진전을 나타내며, AI 능력의 새로운 지평을 열 수 있습니다.
자세한 내용은 대화형 보고서, 기술 논문 및 공개 코드를 참조하시기 바랍니다.
CTM이 미로를 해결하고 실제 사진에 대해 사고하는 시각화 (사진 제공: Alon Cassidy). 놀랍게도, 명시적으로 설계되지 않았음에도 불구하고, 미로에서 학습한 해결책은 매우 해석 가능하고 인간과 유사하여 해결책을 '사고'하면서 미로를 통과하는 경로를 추적하는 것을 볼 수 있습니다. 실제 이미지의 경우, 명시적인 인센티브가 없음에도 직관적인 방식으로 주변을 둘러봅니다.
소개
우리의 뇌는 가장 정교한 현대 AI조차도 어려워하는 영역에서 종종 훨씬 더 효율적으로 뛰어난 성능을 발휘합니다. Sakana AI에서는 AI의 발전을 위해 자연에서 영감을 찾곤 합니다. 예를 들어 진화를 사용한 모델 병합, 더 효율적인 언어 모델용 메모리 진화, 또는 인공 생명의 공간 탐색 등이 있습니다. 인공 신경망은 최근 몇 년간 AI가 놀라운 성과를 달성할 수 있게 했지만, 여전히 생물학적 대응물의 단순화된 표현에 머물러 있습니다. 생물학적 뇌에서 발견되는 특징들을 통합함으로써 AI의 새로운 수준의 능력과 효율성을 달성할 수 있을까요?
우리는 인지의 핵심에 있는 중요한 특징인 시간에 대해 재고하기로 했습니다. 2012년 딥러닝의 등장으로 AI 능력이 크게 도약했음에도 불구하고, AI 모델에 사용되는 인공 뉴런의 기본 모델은 1980년대 이후 크게 변하지 않았습니다. 연구자들은 여전히 뉴런이 얼마나 활성화되는지를 나타내는 단일 출력을 주로 사용하지만, 다른 뉴런과 비교하여 뉴런이 언제 활성화되는지의 정확한 타이밍은 무시합니다. 그러나 강력한 증거는 이러한 타이밍 정보가 생물학적 뇌에서 매우 중요하며, 예를 들어 스파이크 타이밍 의존 가소성에서 생물학적 뇌 기능의 기초가 됨을 시사합니다.
우리가 새로운 모델에서 이 정보를 표현하기 위해 사용한 방법은 단순히 뉴런이 자신의 행동 이력에 접근할 수 있게 하고, 단지 현재 상태만 아는 것이 아니라 이 정보를 사용하여 다음 출력을 계산하는 방법을 학습하는 것입니다. 이를 통해 과거의 다른 시점의 정보를 기반으로 행동을 변경할 수 있습니다. 또한, 새로운 모델의 주요 행동은 이러한 뉴런 간의 동기화에 기반하며, 이는 작업을 해결하기 위해 함께 조정하기 위해 이 타이밍 정보를 활용하는 방법을 학습해야 함을 의미합니다. 우리는 이것이 현대 모델에서 관찰되는 것보다 훨씬 더 풍부한 역동성의 공간과 다른 작업 해결 행동을 만들어낸다고 주장합니다.
이 타이밍 정보를 추가한 후, 우리는 여러 작업에서 광범위한 비자명한 행동을 관찰했습니다. 아래에 몇 가지 결과를 강조합니다. 우리는 매우 해석 가능한 행동을 봅니다: 이미지를 관찰할 때, CTM은 장면 주위를 주의 깊게 시선을 이동시키며, 존재하는 가장 두드러진 특징에 집중하기로 선택하고 일부 작업에서 성능이 향상됩니다. 우리는 특히 뉴런 활동의 역동성에서 보여지는 행동의 다양성에 놀랐습니다.
CTM에서 관찰된 뉴런 역동성 샘플로, 다른 입력에 따라 어떻게 변화하는지 보여줍니다. CTM은 명확하게 매우 다양한 뉴런 행동 세트를 학습합니다. 각 뉴런(임의의 색상)이 다른 뉴런과 함께 활성화되는 방식을 우리는 동기화라고 부릅니다. 우리는 이를 측정하고 CTM의 표현으로 사용합니다.
새로운 모델의 행동은 새로운 종류의 표현에 기반합니다: 시간에 따른 뉴런 간의 동기화입니다. 우리는 이것이 엄격한 에뮬레이션은 아니지만 생물학적 뇌를 훨씬 더 연상시킨다고 믿습니다. 우리는 결과적인 AI 모델을 연속 사고 기계(CTM)라고 부르며, 이는 이 새로운 시간 차원, 풍부한 뉴런 역동성 및 동기화 정보를 사용하여 작업에 대해 '사고'하고 답을 제공하기 전에 계획을 세울 수 있는 모델입니다. 우리는 이름에 '연속'이라는 용어를 사용하는데, 이는 CTM이 추론할 때 전적으로 내부 '사고 차원'에서 작동하기 때문입니다. 소비하는 데이터에 대해 비동기적입니다: 정적 데이터(예: 이미지) 또는 순차적 데이터에 대해 동일한 방식으로 추론할 수 있습니다. 우리는 이 새로운 모델을 광범위한 작업에서 테스트했으며 다양한 문제를 해결할 수 있고 종종 매우 해석 가능한 방식으로 해결할 수 있음을 발견했습니다.
우리가 관찰한 뉴런 역동성은 훨씬 덜 다양한 행동을 보이는 더 전통적인 인공 신경망과 달리 실제 뇌에서 측정된 역동성을 다소 더 연상시킵니다. 아래에서 클래식 AI 모델인 LSTM과의 비교를 참조하세요. CTM은 다른 주파수와 진폭으로 진동하는 뉴런을 보여줍니다. 때로는 단일 뉴런에서 다른 주파수를 볼 수 있고 다른 뉴런은 작업을 해결할 때만 활동을 보입니다. 이러한 모든 행동은 완전히 창발적이며, 모델에 설계되지 않았고, 타이밍 정보를 추가하고 다른 작업을 해결하는 방법을 학습하는 부작용으로 나타난다는 점을 강조할 가치가 있습니다.
CTM의 신경 역동성과 현재 인기 있는 인공 신경망에서 관찰된 역동성의 비교.
새로운 CTM 모델 아키텍처 테스트
새로운 시간 차원이 있기 때문에 CTM의 주요 장점 중 하나는 시간이 지남에 따라 문제를 해결하는 방법을 관찰하고 시각화할 수 있다는 것입니다. 신경망을 통한 단일 패스로 이미지를 분류할 수 있는 기존 AI 시스템과 달리, CTM은 작업을 해결하는 방법에 대해 '사고'하기 위해 여러 단계를 수행할 수 있습니다. CTM의 능력과 해석 가능성을 보여주기 위해 아래에서 두 가지 작업을 소개합니다: 미로 해결과 사진 속 객체 분류. 더 많은 작업에 대한 데모는 대화형 보고서와 학술 논문에서 확인할 수 있습니다.
미로 해결
이 작업에서 CTM은 2D 탑다운 미로를 제시받고 이를 해결하는 데 필요한 단계를 출력하도록 요청받습니다. 이 형식은 모델이 단순히 경로의 시각적 표현을 출력하는 것이 아니라 미로 구조에 대한 이해를 구축하고 해결책을 계획해야 하므로 특히 어렵습니다. CTM의 내부 연속 '사고 단계'를 통해 계획을 개발할 수 있으며, 각 사고 단계 동안 미로의 어느 부분에 집중하는지 시각화할 수 있습니다. 놀랍게도, CTM은 미로를 해결하는 매우 인간적인 접근 방식을 학습합니다—실제로 주의 패턴에서 미로를 통과하는 경로를 따라가는 것을 볼 수 있습니다.
CTM은 관찰(주의 사용)하고 단계(예: 왼쪽으로 이동, 오른쪽으로 이동 등)를 직접 생성하여 미로를 해결합니다. 이는 직접적으로 신경 역동성의 동기화(즉, 동기화 자체에서 선형 프로브 사용)를 사용하여 수행됩니다. 주의 패턴이 미로를 통과하는 경로를 따라가는 것에 주목하세요: 매우 해석 가능한 접근 방식입니다. 대화형 보고서에서 미로 해결 시각화의 대화형 버전을 탐색해 보세요.
이 행동에서 특히 인상적인 점은 모델의 아키텍처에서 자연스럽게 나타난다는 것입니다. 우리는 CTM이 미로를 통과하는 경로를 추적하도록 명시적으로 설계하지 않았습니다—학습을 통해 이 접근 방식을 스스로 개발합니다. 또한, 더 많은 사고 단계가 허용될 때 CTM이 훈련된 지점을 넘어서도 계속해서 경로를 따라가며, 실제로 이 문제에 대한 일반적인 해결책을 학습했음을 보여준다는 것을 발견했습니다.
이미지 인식
ImageNet은 2012년 딥러닝 혁명을 촉발시킨 클래식 이미지 분류 벤치마크입니다. 기존 이미지 인식 시스템은 단일 단계로 분류 결정을 내리지만, CTM은 결정을 내리기 전에 이미지의 다른 부분을 검토하는 여러 단계를 수행합니다. 이러한 단계별 접근 방식은 AI의 행동을 더 해석 가능하게 만들 뿐만 아니라 정확도도 향상시킵니다: 더 오래 "사고"할수록 답변이 더 정확해집니다. 또한 이를 통해 CTM이 더 간단한 이미지에서는 더 적은 시간을 사고하도록 결정할 수 있어 에너지를 절약할 수 있음을 발견했습니다. 예를 들어, 고릴라를 식별할 때 CTM의 주의는 눈에서 코, 입으로 이동하며 인간의 시각적 주의와 현저하게 유사한 패턴을 보입니다.
여기서 우리는 이미지를 분류할 때 CTM의 행동 예를 봅니다 (사진 제공: Alon Cassidy). 히트맵은 이미지를 처리할 때 CTM이 주의를 집중하는 위치를 보여주며, 화살표는 주의의 중심을 나타냅니다. 대화형 보고서에서 더 많은 예시를 볼 수 있습니다.
이러한 주의 패턴은 모델의 추론 과정에 대한 창을 제공하여 분류에 가장 관련성이 있다고 판단하는 특징을 보여줍니다. 이러한 해석 가능성은 모델의 결정을 이해하는 데 가치가 있을 뿐만 아니라 잠재적으로 편향이나 실패 모드를 식별하고 해결하는 데도 유용합니다.
결론
현대 AI가 '인공 신경망'으로서 뇌에 기반을 두고 있음에도 불구하고, AI 연구와 신경과학 간의 겹침은 오늘날에도 놀랍도록 얇습니다. AI 연구자들은 단순성, 효율적인 훈련 및 AI 발전을 이끄는 지속적인 성공으로 인해 80년대에 개발된 매우 단순한 모델을 고수하기로 선택합니다. 반면 신경과학은 지능의 우수한 모델을 만들려고 시도하기보다는 주로 뇌를 이해하는 목적으로 뇌의 훨씬 더 정확한 모델을 만들 것입니다(물론 하나가 다른 하나로 이어질 수 있지만). 이러한 신경과학 모델은 복잡성이 추가되었음에도 불구하고 일반적으로 여전히 현재의 최첨단 AI 모델보다 성능이 떨어지므로 AI 응용 분야를 위해 더 조사할 만큼 특히 매력적이지 않을 수 있습니다.
그럼에도 불구하고, 현대 AI를 어떤 측면에서 뇌의 작동 방식에 더 가깝게 만들지 않는 것은 놓친 기회라고 믿으며, 이런 방식으로 훨씬 더 능력 있고 효율적인 모델을 찾을 수 있을 것입니다. 2012년 능력의 대규모 도약, 이른바 "딥러닝 혁명"은 뇌에서 영감을 받은 모델인 신경망 때문에 발생했습니다. 이러한 진전을 계속하기 위해 계속해서 뇌에서 영감을 받아야 하지 않을까요? CTM은 여전히 중요한 문제를 해결하기 위한 실용적인 AI 모델이면서도 뇌와 더 유사한 행동의 초기 힌트를 보여주는 방식으로 이 두 분야 간의 격차를 좁히려는 우리의 첫 번째 시도입니다.
우리는 이러한 자연에서 영감을 받은 방향으로 모델을 계속 발전시키고 어떤 새로운 능력이 나타날 수 있는지 탐색하게 되어 매우 기쁩니다. 다른 작업에서 CTM의 행동에 대한 더 자세한 예는 대화형 보고서를 방문하시기 바랍니다. CTM의 아키텍처 및 구현에 대한 전체 세부 사항은 기술 논문 및 코드에서 찾을 수 있습니다.
우리가 앞으로 나아가면서, AI 및 신경과학 커뮤니티가 생물학과 계산의 이 유망한 교차점을 탐색하는 데 함께 참여하기를 초대합니다. 함께 인공 신경망의 실용적인 이점을 유지하면서 생물학적 지능의 놀라운 능력을 더 잘 포착하는 AI 시스템을 개발할 수 있습니다.
Sakana AI
함께하는 것에 관심이 있으신가요?
자세한 내용은 채용 기회를 참조하시기 바랍니다.
© Sakana AI 株式会社
원본 출처: https://sakana.ai/ctm/
번역: 특이점이온다 갤러리의 초존도초
작성자 : 초존도초고정닉
차단하기
설정을 통해 게시물을 걸러서 볼 수 있습니다.
댓글 영역
획득법
① NFT 발행
작성한 게시물을 NFT로 발행하면 일주일 동안 사용할 수 있습니다. (최초 1회)
② NFT 구매
다른 이용자의 NFT를 구매하면 한 달 동안 사용할 수 있습니다. (구매 시마다 갱신)
사용법
디시콘에서지갑연결시 바로 사용 가능합니다.