Геометрическое определение
Пусть задана ориентация трёхмерного евклидова пространства. Векторное произведение \(a\times b\) определяется условиями
\[|a\times b|=|a|\,|b|\sin\varphi,\qquad a\times b\perp a,\quad a\times b\perp b,\]
а направление выбирается так, чтобы тройка \(a,b,a\times b\) была правой относительно выбранной ориентации. Если \(a\) и \(b\) коллинеарны или один из них нулевой, произведение равно нулю.1
Модуль \(|a\times b|\) равен площади параллелограмма со сторонами \(a\) и \(b\). Это основной геометрический смысл операции.1
Координатная формула и свойства
В правом ортонормированном базисе, если \(a=(a_1,a_2,a_3)\), \(b=(b_1,b_2,b_3)\), то
\[a\times b=(a_2b_3-a_3b_2,\;a_3b_1-a_1b_3,\;a_1b_2-a_2b_1).\]
Эквивалентно формулу запоминают как формальное разложение определителя по первой строке с \(i,j,k\). Векторное произведение билинейно и антикоммутативно, поэтому \(a\times a=0\) и перестановка сомножителей меняет знак.1, 2
Двойное векторное произведение
Векторное произведение неассоциативно. Скобки в выражении из трёх векторов принципиальны. Основная формула
\[a\times(b\times c)=b(a,c)-c(a,b).\]
Для другой расстановки скобок
\[(a\times b)\times c=b(a,c)-a(b,c).\]
Обе формулы выражают двойное векторное произведение как линейную комбинацию двух исходных векторов.1