기저 · 선형독립 · 직교 · 상관관계 핵심정리

About this offer

1. 기저 Basis 기저 = 벡터공간 전체를 만들 수 있는 최소한의 벡터들 조건은 2개. 선형독립이어야 함 공간 전체를 Span해야 함 즉, 기저 = 선형독립 + Span 예: R2의 표준기저 (1, 0) (0, 1) 두 벡터를 조합하면 R2의 모든 벡터를 만들 수 있다. 2. Span Span = 주어진 벡터들의 선형결합으로 만들 수 있는 모든 영역 예: (1, 0) 하나만 있으면 x축만 만들 수 있음. (1, 0), (0, 1) 두 개가 있으면 R2 전체를 만들 수 있음. 3. 선형독립 Linear Independence 선형독립 = 서로 중복되지 않는 정보를 가진 벡터들 c1v1 + c2v2 + ... = 0 일 때 c1 = c2 = ... = 0 밖에 방법이 없으면 선형독립. 쉽게 생각하면: 각 벡터가 새로운 방향을 제공함 다른 벡터들의 조합으로 만들 수 없음 4. 선형종속 Linear Dependence 어떤 벡터가 나머지 벡터들의 조합으로 만들어지면 선형종속. 예: v1 = (1, 2) v2 = (2, 4) v2 = 2v1 따라서 선형종속. 즉, 선형종속 = 정보 중복 5. 연립방정식과 선형독립 2개의 미지수 + 2개의 방정식을 생각하면 해가 하나 두 식이 독립적인 정보를 제공함. → 두 직선이 한 점에서 만남 해가 무수히 많음 두 식이 사실상 같은 식. 예: x + y = 3 2x + 2y = 6 → 선형종속 → 같은 직선 → 해 무한개 해가 없음 왼쪽 계수는 중복되는데 상수항이 모순됨. 예: x + y = 3 2x + 2y = 7 첫 번째 식을 2배하면 2x + 2y = 6 이어야 하는데 7이라고 주장함. → 모순 → 해 없음 따라서 선형독립/종속 = 정보가 중복되는가 해 존재 여부 = 전체 방정식에 모순이 있는가 둘은 관련 있지만 같은 개념은 아니다. 6. 영벡터 Zero Vector 영벡터 = 모든 성분이 0인 벡터 예: (0, 0) (0, 0, 0) 영벡터가 포함된 벡터 집합은 선형독립일 수 없다. 따라서 영벡터는 기저벡터가 될 수 없다. 7. 영공간 Null Space 영공간 = Ax = 0 을 만족하는 모든 x의 집합. 해가 오직 x = 0 뿐이라면 Null(A) = {0} 이 경우 Nullity = 0. 8. 직교 Orthogonal 두 벡터의 내적이 0이면 직교. x · y = 0 예: x = (1, 1) y = (1, -1) 1×1 + 1×(-1) = 0 → 직교 중요: 0이 아닌 벡터들이 서로 직교하면 반드시 선형독립. 직교 → 선형독립 하지만 선형독립 → 직교 는 아님. 9. 공분산과 직교 데이터 X, Y에서 평균을 빼면 Xc = X - 평균(X) Yc = Y - 평균(Y) 공분산은 본질적으로 Xc · Yc 와 연결된다. 따라서 Cov(X,Y) = 0 이면 평균을 제거한 두 데이터 벡터가 직교한다. 10. 상관계수 Correlation 상관계수는 공분산을 표준편차로 나눈 것. r = Cov(X,Y) / (σX σY) 벡터 관점에서는 평균을 제거한 두 벡터 사이의 cosine과 같다. 즉, r = 1 → 같은 방향 r = 0 → 직교 r = -1 → 반대 방향 단, 상관계수 0 = 아무 관계도 없음 은 아니다. 정확히는 선형관계가 없음 이다. 예: Y = X2 이면 X와 Y 사이에 강한 관계가 있어도 분포에 따라 상관계수가 0일 수 있다. 11. 통계적 독립 vs 상관계수 0 여기서 말하는 통계적 독립은 선형대수의 선형독립과 다른 개념이다. 통계적 독립 X를 알아도 Y에 대한 정보가 추가되지 않는 상태. 독립이면 일반적으로 Cov(X,Y) = 0 따라서 Corr(X,Y) = 0 즉, 통계적 독립 → 상관계수 0 하지만 반대는 성립하지 않는다. 상관계수 0 ↛ 통계적 독립 예: Y = X2 X와 Y는 서로 의존하지만 상관계수는 0이 될 수 있다. 따라서 관계의 강도로 보면 통계적 독립이 더 강한 조건 이다. 12. Cosine Similarity와 상관계수 Cosine Similarity: 원래 벡터의 방향을 비교 Correlation: 평균을 제거한 벡터의 방향을 비교 즉, Correlation = 중심화한 벡터들의 Cosine Similarity 라고 생각할 수 있다. 13. 전체 연결 벡터 ↓ 선형결합 ↓ Span ↓ 선형독립 / 선형종속 ↓ Basis 기저 ↓ Dimension 차원 그리고 내적 ↓ 직교 ↓ 선형독립 ↓ 투영 Projection 통계에서는 중심화 ↓ 내적 ↓ 공분산 ↓ 상관계수 ↓ 무상관 그리고 통계적 독립 → 무상관 하지만 무상관 ↛ 통계적 독립 핵심만 한 줄씩 Span = 이 벡터들로 어디까지 만들 수 있는가 선형독립 = 중복되는 방향이 없는가 선형종속 = 중복되는 정보가 있는가 기저 = 공간 전체를 만드는 최소한의 독립 벡터 직교 = 내적이 0 직교하는 0이 아닌 벡터들은 선형독립 공분산 0 = 중심화된 벡터들이 직교 상관계수 0 = 선형적 관계가 없음 통계적 독립 = 서로 정보가 없음 통계적 독립은 상관계수 0보다 더 강한 조건

Offer details

Provider

velog

Source

velog-rss

Score