[SYCL] Add fma_relu extension

libclc/generic/include/spirv/spirv_builtins.h

@@ -14146,6 +14146,22 @@ _CLC_OVERLOAD _CLC_DECL _CLC_CONSTFN __clc_vec16_fp16_t
     __spirv_ocl_fma(__clc_vec16_fp16_t, __clc_vec16_fp16_t, __clc_vec16_fp16_t);
 #endif
 
+#ifdef cl_khr_fp16
+_CLC_OVERLOAD _CLC_DECL _CLC_CONSTFN __clc_fp16_t __clc_fma_relu(__clc_fp16_t,
+                                                                 __clc_fp16_t,
+                                                                 __clc_fp16_t);
+_CLC_OVERLOAD _CLC_DECL _CLC_CONSTFN __clc_vec2_fp16_t
+    __clc_fma_relu(__clc_vec2_fp16_t, __clc_vec2_fp16_t, __clc_vec2_fp16_t);
+_CLC_OVERLOAD _CLC_DECL _CLC_CONSTFN __clc_vec3_fp16_t
+    __clc_fma_relu(__clc_vec3_fp16_t, __clc_vec3_fp16_t, __clc_vec3_fp16_t);
+_CLC_OVERLOAD _CLC_DECL _CLC_CONSTFN __clc_vec4_fp16_t
+    __clc_fma_relu(__clc_vec4_fp16_t, __clc_vec4_fp16_t, __clc_vec4_fp16_t);
+_CLC_OVERLOAD _CLC_DECL _CLC_CONSTFN __clc_vec8_fp16_t
+    __clc_fma_relu(__clc_vec8_fp16_t, __clc_vec8_fp16_t, __clc_vec8_fp16_t);
+_CLC_OVERLOAD _CLC_DECL _CLC_CONSTFN __clc_vec16_fp16_t
+    __clc_fma_relu(__clc_vec16_fp16_t, __clc_vec16_fp16_t, __clc_vec16_fp16_t);
+#endif
+
 _CLC_OVERLOAD _CLC_DECL _CLC_CONSTFN __clc_fp32_t
     __spirv_ocl_fmax(__clc_fp32_t, __clc_fp32_t);
 _CLC_OVERLOAD _CLC_DECL _CLC_CONSTFN __clc_vec2_fp32_t

libclc/generic/libspirv/float16.cl

@@ -4570,6 +4570,42 @@ __spirv_ocl_fma(__clc_vec16_float16_t args_0, __clc_vec16_float16_t args_1,
                          as_half16(args_2));
 }
 
+_CLC_OVERLOAD _CLC_DEF _CLC_CONSTFN __clc_fp16_t __clc_fma_relu(
+    __clc_float16_t args_0, __clc_float16_t args_1, __clc_float16_t args_2) {
+  return __clc_fma_relu(as_half(args_0), as_half(args_1), as_half(args_2));
+}
+
+_CLC_OVERLOAD _CLC_DEF _CLC_CONSTFN __clc_vec2_fp16_t
+__clc_fma_relu(__clc_vec2_float16_t args_0, __clc_vec2_float16_t args_1,
+               __clc_vec2_float16_t args_2) {
+  return __clc_fma_relu(as_half2(args_0), as_half2(args_1), as_half2(args_2));
+}
+
+_CLC_OVERLOAD _CLC_DEF _CLC_CONSTFN __clc_vec3_fp16_t
+__clc_fma_relu(__clc_vec3_float16_t args_0, __clc_vec3_float16_t args_1,
+               __clc_vec3_float16_t args_2) {
+  return __clc_fma_relu(as_half3(args_0), as_half3(args_1), as_half3(args_2));
+}
+
+_CLC_OVERLOAD _CLC_DEF _CLC_CONSTFN __clc_vec4_fp16_t
+__clc_fma_relu(__clc_vec4_float16_t args_0, __clc_vec4_float16_t args_1,
+               __clc_vec4_float16_t args_2) {
+  return __clc_fma_relu(as_half4(args_0), as_half4(args_1), as_half4(args_2));
+}
+
+_CLC_OVERLOAD _CLC_DEF _CLC_CONSTFN __clc_vec8_fp16_t
+__clc_fma_relu(__clc_vec8_float16_t args_0, __clc_vec8_float16_t args_1,
+               __clc_vec8_float16_t args_2) {
+  return __clc_fma_relu(as_half8(args_0), as_half8(args_1), as_half8(args_2));
+}
+
+_CLC_OVERLOAD _CLC_DEF _CLC_CONSTFN __clc_vec16_fp16_t
+__clc_fma_relu(__clc_vec16_float16_t args_0, __clc_vec16_float16_t args_1,
+               __clc_vec16_float16_t args_2) {
+  return __clc_fma_relu(as_half16(args_0), as_half16(args_1),
+                        as_half16(args_2));
+}
+
 _CLC_OVERLOAD _CLC_DEF _CLC_CONSTFN __clc_fp16_t
 __spirv_ocl_fmax(__clc_float16_t args_0, __clc_float16_t args_1) {
   return __spirv_ocl_fmax(as_half(args_0), as_half(args_1));