Ray Casting Visual Search (RCVS). Algoritmo simple y rápido para encontrar modelos 3D similares en geometría



Para mí, estos dos modelos son muy similares, pero no tienen características obvias por las cuales se pueda medir su similitud. Estos modelos tienen diferentes números de vértices, aristas y polígonos, son de diferentes tamaños, además están rotados de manera diferente en el espacio, y ambos tienen las mismas transformaciones (Posición = [0,0,0], Rotación en radianes = [0,0, 0], Escala = [1,1,1]). ¿Cómo determinar su similitud?

Si estos modelos estuvieran igualmente orientados en el espacio, podrían reducirse al tamaño total de la Caja de límites, mover el origen de las coordenadas locales a su centro, conducir a una vista de vóxel y comparar las listas de vóxeles.


Monos y sus vóxeles.

Si estos modelos estuvieran orientados arbitrariamente a lo largo de los ejes de coordenadas, también podrían reducirse al tamaño total de la Caja de límites, mover el origen de las coordenadas locales a su centro, y luego representarlos en seis lados y comparar conjuntos de imágenes entre ellos.


Renders de curvatura superficial.

Para lograr la invariancia de rotación, decidí recurrir a un sistema de coordenadas esféricas.

r=x2+y2+z2

Al principio conté las distancias a los vóxeles desde el origen, recogí las distancias en listas ordenadas y comparé estas listas. Esto arrojó buenos resultados, pero llevó mucho tiempo convertir la forma de vóxel a una resolución suficiente y comparar grandes listas.

Breve descripción de RCVS


En lugar de voxelización y renderizado, mi método usa Ray Casting. El modelo se coloca dentro del poliedro esférico icosaédrico, desde los polígonos cuyos rayos se arrojan y se registra su longitud (trayectoria) hasta la superficie del modelo. Las listas de estos caminos se ordenan y comparan entre sí. La ordenación elimina los giros, ya que para los modelos de geometría iguales o cercanos, la trayectoria de los rayos coincidirá dentro del error, pero diferirá en orden.


80 y 1280 rayos respectivamente.

Los resultados de comparar los modelos de monos de Suzanne de diferentes maneras.


Suzanne_lo
                          Suzanne_lo | 1             
                 Suzanne_lo_rot_rand | 0.9878376875939173
                   Suzanne_lo_rot_90 | 0.9800766750109137
                 Suzanne_hi_rot_rand | 0.9761078629585936
                          Suzanne_hi | 0.9730722945028376
                   Suzanne_hi_rot_90 | 0.9680325422930756
                               Skull | 0.7697333228143514
             Ceramic_Teapot_rot_rand | 0.6634783235048608
                      Ceramic_Teapot | 0.6496529954470333
                         Grenade_MK2 | 0.5275616759076022

Descripción detallada de RCVS


Pasos Ilustraciones
















Antes de comparar modelos 3D (en adelante denominados objetos), cada uno pasa por la fase de preparación (implementé esta parte en Python en Blender):

  1. El origen de las coordenadas locales de los componentes del objeto se establece en el centro de masa del volumen.
  2. .
  3. .
  4. ( ) , . , : 80, 320, 1280, 5120, 22480. 1280.
  5. , .
  6. .
  7. Los rayos se envían nuevamente desde cada polígono de la icosfera y su camino se guarda hasta que se encuentran con la superficie del objeto, cuyas normales se dirigen dentro del objeto. (Esto corrige la geometría interna y / o llena los puntos ciegos de los rayos anteriores)
  8. Las rutas de los rayos enviados desde polígonos opuestos se ordenan en listas, donde las dos primeras rutas del paso 5 y las segundas dos del paso 7. Cada lista se ordena por el valor de ruta más pequeño del paso 5 para que las rutas de los pasos 5 y 7 coincidan entre sí en pares.
  9. La lista de listas de todas las rutas se ordena por el primer valor. Esta lista tiene 4 columnas y el número de filas es igual a la mitad del número de polígonos en la icosfera.
  10. La lista de rutas de rayos se escribe en un archivo.

La lista de rutas de rayos se ve así:

0.00271218840585662  0.2112752957162676 0.00271218840585662  0.2112752957162676
0.004740002405006037 0.210980921765861  0.004740002405006037 0.2109809188911709
0.00660892842734402  0.2066613370130234 0.00660892842734402  0.2066613370130234
0.2692299271137439   0.2725085782639611 0.2692299271137439   0.2725085782639611
0.2705489991382905   0.2707842753523402 0.270548999138295    0.2707843056356914
0.2709498404192674   0.271036677664217  0.2709498404192674   0.271036642944409

Cuando todos los objetos prepararon listas de rutas de rayos, se pueden comparar (escribí esta parte en Rust):

  1. . 0.01, 1%.
  2. .
  3. , , . , . , .
  4. , . .
  5. ( ), .

, RCVS


El algoritmo funciona muy bien para buscar objetos que tienen una geometría cercana, por ejemplo, variantes poligonales altas y bajas del mismo modelo, y a veces se adapta bien a objetos similares, por ejemplo, teteras o guitarras de diferentes formas. Sin embargo, dado que el número de modelos que corresponderá a la misma lista de trayectorias de rayos puede estimarse aproximadamente enn!(n2)!, hay una probabilidad significativa de que los objetos visualmente diferentes en geometría tengan una cuenta de coincidencia en el rango 0.5 - 0.9. Durante las pruebas, sucedió con los plátanos, que en 0.7 coinciden con los aviones y las personas en diferentes poses, que a su vez por 0.85 "impresionantes" coinciden con los tigres y los perros.

Para una búsqueda más precisa, considere el tamaño y / o rotación de los objetos.

Fuentes.


Código de Python para crear un diccionario de polígonos de icosfera opuestos en Blender
import bpy
import os

name = bpy.context.active_object.data.name

polys = bpy.data.meshes[name].polygons
print("-----")
length = len(polys)

x = 0
p = 0
dict = []
for i in range(0, length):
    print(i, "/", length)
    for l in range(i, length):
        norm1 = polys[i].normal
        norm2 = polys[l].normal
        if norm1 == -norm2:
            dict.append(str(i)+", "+str(l)) 
            p += 1  


print("Polys", p)
basedir = os.path.dirname(bpy.data.filepath) + "/ico_dicts/"  
if not os.path.exists(basedir):
    os.makedirs(basedir)
file = open(basedir + "/" + str(length) + ".csv","w")
for poly in dict:      
    file.write(poly + "\n")
file.close()
print("----ok----")


Código de Python para preparar objetos y crear una lista de rutas de rayos en Blender.
import bpy
import os
from math import sqrt
import csv


#Icosphere properties
#icosubd:
#5 -> 5120 X 2 rays
#4 -> 1280 X 2 rays
#3 ->  320 X 2 rays
#2 ->   80 X 2 rays
icosubd = 4
size = 1280 #name of directory
radius = 1




def icoRC(icosubd, rad, raydist, normals, target):
    icorad = rad
    bpy.ops.mesh.primitive_ico_sphere_add(radius=icorad, subdivisions=icosubd, enter_editmode=True, location=(0, 0, 0))
    bpy.ops.mesh.normals_make_consistent(inside=normals)
    bpy.ops.object.editmode_toggle()
    

    ico = bpy.context.active_object
    mesh = bpy.data.meshes[ico.data.name]
    rays = []
    size = len(mesh.polygons)
    for poly in mesh.polygons:
        normal = poly.normal
        start = poly.center
        
        ray = target.ray_cast(start, normal, distance=raydist)
      
        if ray[0] == True:
            length = sqrt((start[0]-ray[1][0]) ** 2 + (start[1]-ray[1][1]) ** 2 + (start[2]-ray[1][2]) ** 2)
            rays.append(length / (radius *2))
        else:
            rays.append(-1)
            
        
    result = []
    #Combine opposite rays using CSV dicts
    dictdir = os.path.dirname(bpy.data.filepath) + "/ico_dicts/"
    with open(dictdir+str(size)+'.csv', newline='') as csvfile:
        ico_dict_file = csv.reader(csvfile, delimiter=',')
        for row in ico_dict_file:
            result.append([rays[int(row[0])], rays[int(row[1])]])
            
            
    bpy.ops.object.select_all(action='DESELECT')
    bpy.data.objects[ico.name].select_set(True) 
    bpy.ops.object.delete() 
    
    return result
   
   
    
    
#Batch preparation of objects by scale and origin 
def batch_prepare():   
    for obj in bpy.context.selected_objects:
        bpy.ops.object.origin_set(type='ORIGIN_CENTER_OF_VOLUME', center='MEDIAN')
        max_dist = 0
        bb = bpy.data.objects[obj.name].bound_box
        
        for vert in obj.data.vertices:
            dist = vert.co[0]**2 + vert.co[1]**2 + vert.co[2]**2
            if dist > max_dist:
                max_dist = dist
        
        obj.scale *= (1 / sqrt(max_dist))



def write_rays(dir):  
    for obj in bpy.context.selected_objects:
        bpy.ops.object.transform_apply(location=False, rotation=False, scale=True)
        
        #Cast rays on object with normals turned inside   
        bpy.context.view_layer.objects.active  = obj
        bpy.ops.object.editmode_toggle()
        bpy.ops.mesh.normals_make_consistent(inside=True)
        bpy.ops.object.editmode_toggle()
        result1 = icoRC(icosubd, radius, radius*2, True, obj)
        
        #Cast rays on object with normals turned outside 
        bpy.context.view_layer.objects.active  = obj
        bpy.ops.object.editmode_toggle()
        bpy.ops.mesh.normals_make_consistent(inside=False)
        bpy.ops.object.editmode_toggle()
        result2 = icoRC(icosubd, radius, radius*2, True, obj)
        
        final = []
        #Sort sub-lists and append them to main list
        for i in range(0, len(result1)):
            if result2[i][0] < result2[i][1]:
                final.append([result2[i][0], result2[i][1], result1[i][0], result1[i][1]])
            else:
                final.append([result2[i][1], result2[i][0], result1[i][1], result1[i][0]])
        
        
        
     
        basedir = os.path.dirname(bpy.data.filepath) + "/rays/" + str(size) + "/" 
        if not os.path.exists(basedir):
            os.makedirs(basedir)
        file = open(basedir + "/" + obj.name,"w")
        
        final.sort(key=lambda x: x[0]) #Sort list by first values in sub-lists
     
        #Writing to file   
        for ray in final:
            ray_str = ""
            for dist in ray:   
                ray_str += str(dist) + " "
            file.write(ray_str + "\n")

        file.close()
        
    
    
batch_prepare()
write_rays(size)


Código de óxido para comparar listas.
use rayon::prelude::*;
use std::collections::HashSet;
use std::fs;
use std::io::{BufRead, BufReader, Error, Read};

//Creates Vector from file
fn read<R: Read>(io: R) -> Result<Vec<Vec<f64>>, Error> {
    let br = BufReader::new(io);
    br.lines()
        .map(|line| {
            line.and_then(|v| {
                Ok(v.split_whitespace()
                    .map(|x| match x.trim().parse::<f64>() {
                        Ok(value) => value,
                        Err(_) => -1.0,
                    })
                    .collect::<Vec<f64>>())
            })
        })
        .collect()
}

//Compares two objects
fn compare(one: &Vec<Vec<f64>>, two: &Vec<Vec<f64>>, error: f64) -> f64 {
    let length = one.len();
    let mut count: f64 = 0.0;
    let mut seen: HashSet<usize> = HashSet::new();

    for orig in one {
        let size = orig.len();

        for i in 0..length {
            if seen.contains(&i) {
                continue;
            } else {
                let targ = &two[i];

                if (0..size).map(|x| (orig[x] - targ[x]).abs()).sum::<f64>() > error * size as f64 {
                    continue;
                }

                let err_sum = (0..size)
                    .map(|x| 1.0 - (orig[x] - targ[x]).abs())
                    .sum::<f64>();

                count += err_sum / size as f64;
                seen.insert(i);
                break;
            }
        }
    }
    count / length as f64
}

//Compares one object with others on different threads
fn one_with_others(
    obj: &(String, Vec<Vec<f64>>),
    dict: &Vec<(String, Vec<Vec<f64>>)>,
) -> Vec<(usize, f64)> {
    let length = dict.len();

    (0..length)
        .into_par_iter()
        .map(|x| {
            println!("Puny human is instructed to wait.. {:}/{:}", x + 1, length);
            (x, compare(&obj.1, &dict[x].1, 0.01))
        })
        .collect()
}

fn main() {
    let ray = 1280; //name of directory
    let obj_cur = "Suzanne_lo"; //name of object

    let mut objects = Vec::<(String, Vec<Vec<f64>>)>::new();
    let path_rays = format!("./rays/{:}/", ray);
    let paths = fs::read_dir(path_rays).unwrap();

    let obj_path = format!("./rays/{:}/{:}", ray, obj_cur);
    let obj = (
        obj_cur.to_string(),
        read(fs::File::open(obj_path).unwrap()).unwrap(),
    );

    for path in paths {
        let dir = &path.unwrap().path();
        let name = dir.to_str().unwrap().split("/").last().unwrap();

        objects.push((
            name.to_string(),
            read(fs::File::open(dir).unwrap()).unwrap(),
        ));
    }

    let mut result = one_with_others(&obj, &objects);
    result.sort_by(|a, b| b.1.partial_cmp(&a.1).unwrap());
    print!("{}\n", "_".repeat(150));
    println!("{:}", obj.0);
    for line in result {
        println!(
            "{:>36} |{:<100}| {:<14}",
            objects[line.0].0,
            "▮".repeat((line.1 * 100.0).round() as usize),
            line.1
        );
    }
}



Enlace a la fuente y al proyecto Blender con una escena de prueba.

Enlace a GitHub.


All Articles