целые точки трехмерного треугольника, заданного целыми вершинами?

Бидиффузорным орбитальным сканером.
Что значит просканировать?

> целые точки трехмерного треугольника, заданного целыми вершинами?


Целые точки ( точки с целочисленными координатами ) не могут, в общем случае, лежать в одной плоскости.

> Целые точки ( точки с целочисленными координатами ) не могут,
>  в общем случае, лежать в одной плоскости.

Да ну?

Рассмотрим точки с координатами A, B, C, заданными координатами в некотором базисе пространства V по принципу: Q = {q1,q2,...,qN | qK ∊ Z, k = 1...N}

Через любые три точки пожно провести плоскость.

Навскидку если, то посмотрел бы в сторону взвешенных координат. Еще НОДы вылезут где-нибудь. Как-то так.

В математической постановке речь, видимо, идет о нахождении целочисленных решений системы уравнений
a0*x+b0*y+c0*z=d (уравнение плоскости, a0, b0, c0, d вычисляются из координат вершин)
aN*x+bN*y+cN*z>=0, N=1..3 (неравенства ограничений, вычисляются из векторов нормалей к сторонам).

Самый простой способ - перебираются все "целые" точки из параллелепипеда, целиком включающего в себя треугольник, и проверяются на удовлетворение уравнению плоскости (ессно, с заданным eps).