F = <
  {
    A,
    A,
    B
  },
  0.1,
  0.9
>

A = 0.2126*r + 0.7152*g + 0.0722b = <r, <g, <b, 0, 0.0722>, <b, 0.7152, 0.7874>>, <g, <b, 0.2126, 0.2848>, <b, 0.9278, 1>>>
B=A^0.2;

Пусть
С = not(A) = 1-A

тогда
B = (1-C)^0.2

Судя по https://prnt.sc/gzfi2c
B = (1-С)^0.2 = ~(1 - D) = not(D)

Где
D = (0.2*С + 0.08*С^2 + 0.048*С^3 + 0.0336*С^4 + 0.025536*С^5 ...) // можно и ещё докинуть

Т.е. если правильно разложить D, то можно будет найти F

Предполагается, что разложить D легче, т.к. все коэфф. положительные....