Isso apenas me parece possível de duas maneiras:
1 - usar visão estereoscopia com câmaras (duas camaras). O Kinectic faz isso muito bem mesmo, se tiveres hipóteses compra e usa um !
. Com esta visão consegues ter um mapa 3D do ambiente à frente do robô, aí com alguma análise consegues detectar relevos no meio ambiente suspeitos e aí podes tentar apanhá-los. Nota: A visão esteroscópica é uma solução barata para obter mapeamento 3D, se tiveres mesmo hipóteses... ($$$) usa um sensor laser daqueles caros para obter o 3D.
2- usar um ambiente controlado em que o lixo se destaque excepcionalmente bem na imagem de uma câmara pela: côr OU por ter alto nível de entropia, ou seja, ser muito colorido e ter altas variações de contrastes que se possam diferenciar bem do ambiente.
Numa última aproximação, assumindo que o chão é sempre plano, podes tentar usar uma camara rente ao chão a ver se consegues detectar algo...
O verdadeiro conselho é : Experimentação
