[argyllcms] Logfile precision limited?

  • From: Christopher Birkett <chrisbirkett@xxxxxxxxx>
  • To: argyllcms@xxxxxxxxxxxxx
  • Date: Sat, 23 Mar 2019 20:53:36 -0400

I'm using an X-Rite i1Studio to take ambient sensor measurements. When I
save the spectrum data while spotread is running (i.e. hit "s"), the data
has 6 digits after the decimal point. When I use the "logfile" option to
save the results from the -s flag (print spectrum), I only get 3 points. I
don't understand the technical aspects to know whether the difference is
meaningful, but it's enough to alter things when I plot the spectrum data
and calculate results from it.

The reason I'm using the logfile option is so I can call spotread from a
batch file and just have it do a single measurement and exit (-N -O). Is
there any way to get higher precision, or do I have to manually trigger and
save every result inside spotread?

Chris

Other related posts: