SIMD | Notion

<aside> 🖼️

순수한 하드웨어의 부스트 영역

설명
- 하나의 스레드안에서 for문을 쪼개서 동시에 연산하는 기능
- 동시성 보장안됨 : 말그대로 반복이 아니라 동시에 처리되므로, 상호 의존성이 zero여야함
  - par_unseq 정책에서는람다/함수 객체가 오직 자기 요소만 읽고, 외부 공유상태(전역변수, sum 등)를 건드리지 않을 때만 안전.
  - 만약 외부 상태를 바꿔야 한다면mutex 등의 동기화가 필요하지만, 이러면 성능 이점이 사라짐.
```
int sum = 0;
std::for_each(std::execution::par_unseq, v.begin(), v.end(),
    [&](int n) { sum += n; }); // 위험!!
```
- C++ 표준 버전과는 무관,2000년대 중반 이후 컴파일러라면 대부분 지원!
- 벡터 더하기, 곱하기, 비교 등 고성능 동시 연산을 명시적으로 사용
- cpp에서 명시적으로 컴파일러에게 요청 가능
  - SIMD intrinsics는 SSE/AVX(인텔), NEON(ARM) 등 CPU 명령을C/C++에서 직접 호출하는 함수들 → C/C++ 코드에서 SIMD 레지스터와 명령어를 직접 컨트롤 가능
  - 예) _mm_add_ps()(SSE), _mm256_add_ps()(AVX) 등 → 그냥 일반 라이브러리 쓰는 것과 동일, 단 플랫폼과 아키텍쳐 종속적 코드가 됨
```
#include <immintrin.h> // AVX header

float a[8] = {1,2,3,4,5,6,7,8};
float b[8] = {10,20,30,40,50,60,70,80};
float c[8];

__m256 va = _mm256_loadu_ps(a);
__m256 vb = _mm256_loadu_ps(b);

__m256 vc = _mm256_add_ps(va, vb);

_mm256_storeu_ps(c, vc);

// c = {11,22,33,44,55,66,77,88}
```
  - 예시: OpenCV 내부 SIMD 코드 (간단화)
```
#ifdef CV_ENABLE_AVX2
    __m256 mA = _mm256_loadu_ps(a);
    __m256 mB = _mm256_loadu_ps(b);
    __m256 mC = _mm256_add_ps(mA, mB);
    _mm256_storeu_ps(c, mC);
#else
    // 일반 for문 fallback
    for (int i = 0; i < 8; ++i) c[i] = a[i] + b[i];
#endif
```
SIMD의 오버헤드
- 명령어 준비 비용: 데이터가 “벡터화” 가능한 형태여야 하고,정렬/배치 등 추가 작업이 필요할 수 있음
- 로드/스토어 병목: SIMD 레지스터에 데이터를 로딩/스토어하는 과정에서메모리 대역폭이 병목이 될 수 있음
- 데이터 정렬: SIMD는 정렬된 메모리를 더 빨리 접근.비정렬 데이터는 느려질 수 있음(_mm_loadu_ps vs _mm_load_ps)
- 처리 단위 미스매치: 벡터 길이(예: 4개, 8개, 16개 등)로 딱 맞게 나누지 못하면 남은 데이터를 별도로 처리(스칼라 연산) → 성능 저하
- 분기(branch) 문제: 벡터 연산 중 if문 등 분기가 많으면 SIMD 효율이 크게 떨어짐(분기마다 전체 멈춤)
- 레지스터 자원 한계: CPU의 SIMD 레지스터 수가 제한적이어서,너무 많은 데이터를 한꺼번에 처리하려면 레지스터 재사용, spill 등 오버헤드 발생
- CPU 내부 자원 경쟁: 최신 인텔프로세서라 해도, 코어 당 SIMD 유닛이 하나뿐이라, 여러 스레드/프로세스가 동시에 SIMD를 쓰면 성능이 나뉠 수 있음
참고
- 헤더파일:
  - SSE: <xmmintrin.h>, <emmintrin.h> 등
  - AVX: <immintrin.h>
- 플랫폼/컴파일러 옵션에 따라 msse, mavx 등 명시적으로 옵션을 줘야 할 수 있음
- Intel Intrinsics Guide (공식)
- 각 명령어는 float/double, int/uint, 128/256비트 등에 따라 다양한 버전 있음

제공 함수

명령어 집합	레지스터 크기	주요 연산/특징	지원 CPU 예시
MMX	64비트	정수	펜티엄 MMX 등 (구형)
SSE	128비트	float, double, int	인텔/AMD 대부분
AVX	256비트	float, double	2011년 이후 인텔/AMD
AVX2	256비트	int 포함, gather	2013년 이후 인텔/AMD
AVX-512	512비트	대규모 연산, 마스크, FMA	서버, 최신 인텔 일부
FMA	128/256/512	곱셈+덧셈 한 번에	AVX2, AVX-512 포함
NEON (ARM)	64/128비트	float, int, 등	ARM Cortex, M1, M2 등
SVE (ARM)	가변(128~2048)	ARM 서버, 초대형 벡터화	ARM Neoverse 등

x86/64 계열 SIMD 명령어 집합 종류
ARM 계열

실제 적용
- 사례 projAVX2
- 사례 cv::reduce
  
  cis카메라 io이미지 memcopy부분 직접 적용하면서, 복사연산 → 가감산연산 → 사칙연산 → 비교연산 순으로 라이브러리화 하면 엄청 좋을듯

</aside>